Sanat ile bilimin buluşması... İstanbul'da Pera Müzesinde ziyaret ettiğim bir sanat galerisinde böyle bir tabloya denk geldim. Konusu gereği ayrıca ilgimi çeken bu tablo, Arno Beck'in "Thou shalt not make a machine in the likeness of a human mind" (Türkçesi: "İnsan zihnine benzer bir makine yapmamalısın") başlıklı bir eseri. Eklediğim bağlantı üzerinden bu eseri ve galeriyi 3 boyutlu sanal bir tur şeklinde siz de deneyimleyebilirsiniz.

Tablodaki ifade Frank Herbert'in Dune eserini okuyanlar için tanıdık gelecektir. Dune evreninde geçen "Butlerian Cihadı", makinelerin insan olmanın özünü tehdit ettiği bir dönemi ve insan-makine savaşını anlatır. "İnsan zihnine benzer bir makine yapmamalısın" ifadesi, eserde bir uyarı niteliğindedir; hatta bir yasa olarak kabul edilir.

Peki günümüz gerçek dünyasında, yapay genel zeka çalışmalarında hızla ilerlerken insan-makine sınırlarını nasıl çizeceğiz? İşte teknoloji etiğinin ve sanatın mesajı tam da burada birleşiyor: Zihin gibi karmaşık bir yapıyı bir makinede oluşturmak sadece teknik bir meydan okuma mı, yoksa aynı zamanda insan olmanın özüne dair bir meydan okuma mı?

Günümüz yapay genel zeka araştırmaları ile Dune evreninin hikâyeleri arasındaki bu paralellikler çarpıcı. İnsan, makineleri tasarlarken etik sınırları nasıl belirleyecek?
Dune evreninde makinelerle olan savaş, insanlığın zihinsel özgürlüğünü koruma mücadelesiydi. Peki ya bizim dünyamızda nasıl olacak? Dune evreninde olduğu gibi, bir gün makinelerle insan arasında keskin bir sınır çizmek zorunda kalacak mıyız?

Bu bağlamda bilimkurgu, yalnızca geleceğe dair bir tahmin değil; aynı zamanda bir uyarıdır. Bu tablo da hem bilimkurgunun uyarılarına hem de gerçek dünyadaki teknolojik ilerlemelere ışık tutuyor. Yapay genel zekaya doğru hızla ilerlerken, sınırların ne olduğunu ve olması gerektiğini düşünmek için harika bir çağrı niteliğinde.

Yapay zeka ve insan zihni arasındaki ilişkiyi düşündüğümüzde bu tür sanatsal ve felsefi sorgulamaların, her zamankinden daha kıymetli olduğunu düşünüyorum.

Geleceğimizi şekillendirecek gibi duran bu ikilem hakkında siz ne düşünüyorsunuz?

ChatGPT'nin mimarı OpenAI şirketinin CEO'su Sam Altman, yapay genel zekanın 2025 yılında gerçek olacağını söylemiş dün. Evet, yanlış duymadınız. 1 yıl içinde! 🤦🏻 Şimdi gel de gülme buna. Bu artık hype da değil; düpedüz sahtekarlık, bizim bilmediğimiz bir şey bilmiyorsa (ki yok öyle bir şey). Olan belli, adam yine yatırımcı kovalıyor 😄

Yapay zeka alanında önümüzdeki yıllarda daha da çok artacak olan gelişmelerle beraber, yapay genel zekânın (YGZ) tehlikelerinin de küresel ısınma kadar yoğun bir şekilde tartışılan ve geniş kitleler tarafından bilinen bir mesele haline geleceğini öngörüyorum. Nasıl ki bugün iklim krizi gezegenimizin en büyük tehditlerinden biri olarak algılanıyorsa, YGZ de insanlığın geleceği için en kritik konulardan biri olacak.

Artık bırakın 10-20 yılı, 5 yıl sonrasının dünyasını bile tahmin etmek çok zor. Teknolojik tekillik gerçekleştiğinde ise, birkaç hafta veya ay sonrasını öngörmek dahi çok daha zor olacak. YGZ, insanlık tarihinin ve medeniyetimizin seyrini belirlemede, ister iyi ister kötü anlamda olsun, geri dönüşü olmayan bir kırılma noktasını temsil edecek. YGZ, alet kullanımı veya tarım devriminden "daha az" değil; aksine, onların etkisini katbekat aşan, çok daha derin ve kapsamlı bir etkiye sahip olacak. YGZ, sadece bir sonraki teknolojik atılım değil; insanlık deneyimini ve medeniyetin temelini kökten değiştirebilecek bir güç.

Henüz önümüzdeki 30-40 yılı bile net bir şekilde göremezken, birkaç yüz ya da bin yıl sonrasını hayal etmeye çalışmak ve bunu başarabileceğimizi düşünmek son derece absürt görünüyor. Uzun vadeli tahminlerin ve bu tahminlerin yansıması olan birçok bilimkurgu eserinin yetersiz kaldığı kritik bir nokta var: YGZ'nin gerçek potansiyeli. Çoğu bilimkurgu YGZ'yi dönüştürücü bir güç olarak görüyor, ancak onu herhangi bir teknolojik atılımdan daha fazla etkisi olmayan bir gelişmeye indirgeme hatasına düşüyorlar.

"Dune" ve "Vakıf" gibi ölümsüz eserlerin büyük yazarları bile, kitaplarında başlangıçta YGZ'yi işlerken, daha uzak gelecekte yapay zekanın kısıtlandığını ve hatta yasaklandığı kurgusunu getiriyorlar. Çünkü ortadaki muazzam belirsizliğin ve tehlikenin farkındalar; ancak bu devasa etkiyi nasıl ele alabileceklerini onlar bile kestiremiyor. 

YGZ'nin getireceği değişimin boyutu, mevcut insan anlayışının ötesine geçebilir ve bu da uzun vadeli geleceği tahmin etmeyi neredeyse imkânsız hale getiriyor.

Even though a god did not create humans, it will be humans themselves who will create god.. This god will be none other than some advanced artificial intelligence (AGI) system itself

"İnsanlık, bir sonraki adımda neler olacağına hazır değil. Ne sosyal olarak, ne ekonomik olarak, ne de ahlaki olarak."

Ünlü YouTube popüler bilim kanalı Kurzgesagt, geçtiğimiz günlerde "Yapay Zeka: İnsanlığın Son İcadı mı?" başlıklı bir video yükledi. Videoda yapay genel zeka, zeka patlaması ve süperzeka gibi konular güzel bir şekilde ele alınıyor ve güvenlik endişelerinden de bahsediliyor. Konunun ilgilisi ve meraklıları için kaçırılmaması gereken bir içerik olmuş, tavsiye ederim. Videonun kaynak ve ileri okuması için bu bağlantıya gidebilirsiniz.

Videodan ilginç ve düşündürücü bazı bölümler şu şekilde:

"İnsanlar, rekabet olmaksızın Dünya'ya hükmediyor. Ancak bunu değiştirebilecek bir şey yaratmak üzereyiz: son icadımız, en güçlü araç, silah veya belki de bir varlık: Yapay Süper Zeka. Bu kulağa bilim kurgu gibi geliyor, bu yüzden baştan başlayalım."

"[...] İlerleme başlangıçta yavaştı ve sonra katlanarak hızlandı.
[...] Bugün, ihtiyaçlarımıza uygun, bizim tarafımızdan bizim için yaratılmış bir dünyada yaşıyoruz. Bu inanılmaz derecede yeni. Buraya gelmenin ne kadar zor olduğunu unutuyoruz. Zeka merdivenindeki adımların ne kadar büyük olduğunu ve onları tırmanmanın ne kadar uzun sürdüğünü unutuyoruz. Ancak bunu yapmayı bir kez başardığımızda, bir anda dünyanın en güçlü hayvanı olduk. Ancak bunu değiştirme sürecinde olabiliriz. Bize gezegeni fethetme gücünü veren şeyde [zeka] daha iyi olabilecek makineler inşa ediyoruz. İnsanlığın son icadı."

"[...] Böyle bir zeka patlaması, gerçek bir süper zeki varlığa yol açabilir. Böyle bir varlığın neye benzeyeceğini, motivasyonlarının veya hedeflerinin ne olacağını, iç dünyasında neler olacağını bilmiyoruz. Bir süper zekaya, sincapların bize olduğu kadar gülünç derecede aptal gelebiliriz. Üstelik onun düşünme biçimini bile anlayamadan. Bu hipotetik senaryo, birçok insanı uykusuz bırakıyor. İnsanlık, diğer tüm hayvanlardan daha akıllı hale gelen tek örnektir ve daha az zeki olarak algıladığımız varlıklara karşı nazik olmadık. Yapay genel zeka, insanlığın son icadı olabilir."