"İnsanlık, bir sonraki adımda neler olacağına hazır değil. Ne sosyal olarak, ne ekonomik olarak, ne de ahlaki olarak."
Ünlü YouTube popüler bilim kanalı Kurzgesagt, geçtiğimiz günlerde
"Yapay Zeka: İnsanlığın Son İcadı mı?" başlıklı bir video yükledi. Videoda
yapay genel zeka, zeka patlaması ve süperzeka gibi konular güzel bir şekilde ele alınıyor ve güvenlik endişelerinden de bahsediliyor. Konunun ilgilisi ve meraklıları için kaçırılmaması gereken bir içerik olmuş, tavsiye ederim. Videonun kaynak ve ileri okuması için
bu bağlantıya gidebilirsiniz.
Videodan ilginç ve düşündürücü bazı bölümler şu şekilde:
"İnsanlar, rekabet olmaksızın Dünya'ya hükmediyor. Ancak bunu değiştirebilecek bir şey yaratmak üzereyiz: son icadımız, en güçlü araç, silah veya belki de bir varlık: Yapay Süper Zeka. Bu kulağa bilim kurgu gibi geliyor, bu yüzden baştan başlayalım."
"[...] İlerleme başlangıçta yavaştı ve sonra katlanarak hızlandı.
[...] Bugün, ihtiyaçlarımıza uygun, bizim tarafımızdan bizim için yaratılmış bir dünyada yaşıyoruz. Bu inanılmaz derecede yeni. Buraya gelmenin ne kadar zor olduğunu unutuyoruz. Zeka merdivenindeki adımların ne kadar büyük olduğunu ve onları tırmanmanın ne kadar uzun sürdüğünü unutuyoruz. Ancak bunu yapmayı bir kez başardığımızda, bir anda dünyanın en güçlü hayvanı olduk. Ancak bunu değiştirme sürecinde olabiliriz. Bize gezegeni fethetme gücünü veren şeyde [zeka] daha iyi olabilecek makineler inşa ediyoruz. İnsanlığın son icadı."
"[...] Böyle bir zeka patlaması, gerçek bir süper zeki varlığa yol açabilir. Böyle bir varlığın neye benzeyeceğini, motivasyonlarının veya hedeflerinin ne olacağını, iç dünyasında neler olacağını bilmiyoruz. Bir süper zekaya, sincapların bize olduğu kadar gülünç derecede aptal gelebiliriz. Üstelik onun düşünme biçimini bile anlayamadan. Bu hipotetik senaryo, birçok insanı uykusuz bırakıyor. İnsanlık, diğer tüm hayvanlardan daha akıllı hale gelen tek örnektir ve daha az zeki olarak algıladığımız varlıklara karşı nazik olmadık. Yapay genel zeka, insanlığın son icadı olabilir."