bence ikisi de aynı şeyin iki yüzü ama kanıt, günlük hayatta asıl riskin "aşılmak" değil "bağımlı ve kontrolsüz kalmak" olduğunu gösteriyor. aşılma korkusu daha çok kültürel bir imgelem, bağımlılık ise zaten yaşadığımız bir şey.
aşılma korkusu nereden geliyor? niels wilde'a göre batı'nın "makine devralması" hikâyesi aslında kendimizden korkmamızla ilgili. yapay zekâya kendi hırsımızı, hâkimiyet arzumuzu ve kontrol edemediğimiz bir gücü yüklüyoruz, yani klasik bir cin şişeden çıktı hikâyesi. stephen cave ve arkadaşlarının 300 kurgusal ve kurgusal olmayan eseri tarayan çalışması da her umudun yanında paralel bir korku taşıdığını gösteriyor. ölümsüzlük umudu kimlik kaybı korkusuyla, kolaylık umudu bağımlılık korkusuyla, kontrol umudu da kontrolü yitirme korkusuyla eşleşiyor. yani korku, teknolojinin kendisinden çok onu nasıl hayal ettiğimizin ürünü.
onsuz kalma korkusu ise daha somut. joel mokyr ve arkadaşları teknoloji kaygısının tarihte hep döngüsel olduğunu, işgücünün ikame edilmesi, ahlaki erozyon ve eşitsizlik gibi başlıklar etrafında döndüğünü anlatıyor. bu kaygıların çoğu abartı çıktı ama sebepsiz de değildi. bugün ise bir cloud sağlayıcısının tek bir region'ı düştüğünde yarım internet duruyor. hepimiz aynı birkaç kritik bağımlılığın üstüne kurulu bir sistemde yaşıyoruz. buna "aşılmak" demek bile gerekmiyor, düz bir single point of failure bu.
sherstyuk ve arkadaşlarının derlemesi de insanların yapay zekâ tabanlı sistemler üzerindeki kontrol yetisini olduğundan fazla gördüğünü, dijitalleşmenin olumsuz sonuçlarının ise gözden kaçtığını savunuyor. zhan ve arkadaşlarının araştırması ilginç bir ayrıntı ekliyor: kullanıcıların algıladığı kontrol hissi korkuyu her boyutta artırabiliyor. yani "elimde dümen var" duygusu korkuyu her zaman azaltmıyor.
özetle bilinçli bir makinenin bizi alt etmesi spekülatif bir senaryo, bağımlılık ise bugünün gerçeği. daha gerçekçi korku, teknolojiyi aştığı için değil, farkında olmadan ona devrettiğimiz kararlar ve beceriler yüzünden onsuz işleyemez hale gelmemiz. bu da roadmap'te "singularity" yerine "graceful degradation" yazmamız gerektiği anlamına geliyor.
Kaynaklar
-
Niels Wilde. Fear Of Artificial Intelligence Or Fear Of Looking In The Mirror? Revisiting The Western Machine-Takeover Imaginary. Alındığı Yer:
| Arşiv Bağlantısı
-
Stephen Cave vd.. Hopes And Fears For Intelligent Machines In Fiction And Reality. Alındığı Yer:
| Arşiv Bağlantısı
-
Joel Mokyr vd.. The History Of Technological Anxiety And The Future Of Economic Growth: Is This Time Different?. Alındığı Yer:
| Arşiv Bağlantısı