Yapay zeka alanında önümüzdeki yıllarda daha da çok artacak olan gelişmelerle beraber, yapay genel zekânın (YGZ) tehlikelerinin de küresel ısınma kadar yoğun bir şekilde tartışılan ve geniş kitleler tarafından bilinen bir mesele haline geleceğini öngörüyorum. Nasıl ki bugün iklim krizi gezegenimizin en büyük tehditlerinden biri olarak algılanıyorsa, YGZ de insanlığın geleceği için en kritik konulardan biri olacak.
Artık bırakın 10-20 yılı, 5 yıl sonrasının dünyasını bile tahmin etmek çok zor. Teknolojik tekillik gerçekleştiğinde ise, birkaç hafta veya ay sonrasını öngörmek dahi çok daha zor olacak. YGZ, insanlık tarihinin ve medeniyetimizin seyrini belirlemede, ister iyi ister kötü anlamda olsun, geri dönüşü olmayan bir kırılma noktasını temsil edecek. YGZ, alet kullanımı veya tarım devriminden "daha az" değil; aksine, onların etkisini katbekat aşan, çok daha derin ve kapsamlı bir etkiye sahip olacak. YGZ, sadece bir sonraki teknolojik atılım değil; insanlık deneyimini ve medeniyetin temelini kökten değiştirebilecek bir güç.
Henüz önümüzdeki 30-40 yılı bile net bir şekilde göremezken, birkaç yüz ya da bin yıl sonrasını hayal etmeye çalışmak ve bunu başarabileceğimizi düşünmek son derece absürt görünüyor. Uzun vadeli tahminlerin ve bu tahminlerin yansıması olan birçok bilimkurgu eserinin yetersiz kaldığı kritik bir nokta var: YGZ'nin gerçek potansiyeli. Çoğu bilimkurgu YGZ'yi dönüştürücü bir güç olarak görüyor, ancak onu herhangi bir teknolojik atılımdan daha fazla etkisi olmayan bir gelişmeye indirgeme hatasına düşüyorlar.
"Dune" ve "Vakıf" gibi ölümsüz eserlerin büyük yazarları bile, kitaplarında başlangıçta YGZ'yi işlerken, daha uzak gelecekte yapay zekanın kısıtlandığını ve hatta yasaklandığı kurgusunu getiriyorlar. Çünkü ortadaki muazzam belirsizliğin ve tehlikenin farkındalar; ancak bu devasa etkiyi nasıl ele alabileceklerini onlar bile kestiremiyor.
YGZ'nin getireceği değişimin boyutu, mevcut insan anlayışının ötesine geçebilir ve bu da uzun vadeli geleceği tahmin etmeyi neredeyse imkânsız hale getiriyor.
Evrim Ağacı
