Yapay Genel Zeka Yarışı: Atom Bombasının Geliştirildiği Manhattan Projesinden Nasıl Bir Ders Çıkarılabilir?

Bu yazı, Scientific American isimli kaynaktan çevrilmiştir.

2024 Nobel Ödülleri, hem yapay zekayla ilgili çalışmalara hem de nükleer savaşı sona erdirme çabalarına verildi. 20. yüzyılın ilk yarısında Nobel Komiteleri, atomun yapısını keşfeden çalışmalara fizik ve kimya ödülleri vermiştir. Bu keşifler, aynı zamanda nükleer silahların geliştirilmesine de zemin hazırlamıştır. Onlarca yıl sonra, 2024 Nobel Barış Ödülü ise nükleer bilimin kötüye kullanımına karşı mücadele edenlere verilmektedir.

Temel fizik araştırmalarından nükleer silahların doğuşu ile bilgisayar bilimindeki temel çalışmalardan yapay zekanın riskli uygulamaları arasında benzerlikler bulunmaktadır. ABD Başkanı Trump ve yönetiminin yapay genel zeka için "Manhattan Projesi" çağrısı ile birlikte; dezenformasyon, iş kaybı ve gözetim gibi çeşitli sosyal riskler de bu paralelliği güçlendirmektedir.

Yapay zeka alanında araştırmalar yürüten bazı bilim insanları, çalışmalarının etkilerine yeterince odaklanmadıklarından endişe duyarak öz eleştiride bulunmaktadır. Bu bilim insanlarının kafalarını kurcalayan soru, şöyle ifade edilebilir: "Nobel Komiteleri, gelecek yüzyılda biz yapay zeka bilimcilerin bırakacağı 'enkazı' temizleyenler için Barış Ödülü verecek mi?"

Manhattan Projesi'nden Ders Çıkarmak

Bundan yaklaşık 80 yıl önce dünyanın en iyi bilimcileri, atom bombasını Nazilerden önce geliştirebilmek için bir yarışa girmiştir. Ancak, 1944 yılında Nazilerin nükleer bomba çabaları durduktan ve hatta 1945'de Hitler Almanyası teslim olduktan sonra bile ABD, Los Alamos'taki atom bombası çalışmalarına devam etmiştir. Nazi tehdidi sona erdiğinde projeden ayrılan tek bilim insanı, Joseph Rotblat isimli bir fizikçi olmuştur. Rotblat, sonraları şu itirafta bulunmuştur:

İnsan olduğunuzu unutup bir 'alet' üretme takıntısına kapılıyorsunuz. Sonra ona bahane buluyorsunuz. Asıl amacı unutuyorsunuz.

ABD tarafından Japonya'nın Hiroşima ve Nagazaki şehirlerine atılan atom bombaları, yüz binlerce sivil insanın anında ölmesine ve o an ölmeyenlerin ise radyasyonun etkisiyle sonraki yıllarda ölmesine sebep oldu. Rotblat'ın yukarıdaki sözleri, onlarca yıl önce yazılmış olsa da bugün yapay zeka araştırmalarındaki hakim anlayışı ürkütücü bir doğrulukla tanımlamaktadır.

Oppenheimer'ın Hayaleti

Derin öğrenmenin matematiksel temelleri üzerine araştırmalar yürüten matematikçi ve yapay zeka araştırmacısı olan Y Cooper da, Princeton İleri Araştırmalar Enstitüsü'nde çalışırken nükleer silahlarla yapay zeka arasındaki benzerliği ilk kez bu denli fark ettiğini belirtmektedir. Enstitü, Christopher Nolan'ın Oppenheimer filmindeki o ürpertici final sahnesinin geçtiği yerdir. Cooper, yapay sinir ağlarının matematiksel iç işleyişini çözmeye başladıkça, çalışmasının toplumsal etkilerinden endişelenmeye başladığını ifade etmektedir. Enstitü direktörü fizikçi Robbert Dijkgraaf, Cooper'a J. Robert Oppenheimer'ın hayatını incelemesi tavsiyesinde bulunmuştur. Bunun üzerine Cooper, Oppenheimer'ın üç ayrı biyografisini okumuş ve onun yolundan gitmek istemediği kararına varmıştır. Cooper, Oppenheimer'ın ünlü "Teknik açıdan cezbedici bir şey gördüğünüzde, peşinden gidersiniz" sözünün bugün bile bilim dünyasında yankılarının sürdüğünü söylemektedir. Hatta 2024 Nobel Fizik Ödülü'nü kazanan Geoffrey Hinton, 2023 yılında yapay zekanın varoluşsal risk teşkil ettiği uyarısında bulunarak teknoloji devi Google'daki işinden istifa etmiştir ve istifasının ardından Oppenheimer'ın bu sözüne atıfta bulunmuştur.^[1]

Benzer bir şekilde, atom bombası felaketi ile sonuçlanan Manhattan Projesi de başlamadan önce dönemin önde gelen fizikçisi Lise Meitner, Yahudi olmasına ve Naziler yüzünden yurdundan edilmiş olmasına rağmen Manhattan Projesi'ne katılmayı reddetmiştir. Meitner, şu sözleri söylemiştir:

Bomba yapımına asla dahil olmam!

Rotblat ise 1957 yılında kurduğu Pugwash Bilim ve Dünya İlişkileri Konferansları ile nükleer silah karşıtı hareketin liderliğini üstlenmiştir. 1995 yılına gelindiğinde Rotblat, bu çabaları nedeniyle Nobel Barış Ödülü'ne layık görülmüştür.

Bugün de yapay zeka alanında Rotblat ve Meitner gibi duruş sergileyen araştırmacılar bulunmaktadır. Geoffrey Hinton, Yoshua Bengio ve Stuart Russell gibi alanlarının dev isimlerinin yanı sıra, 2023 yılında Ed Newton-Rex isimli bir yapay zeka araştırmacısı, telif hakkı ihlali yapan modeller geliştirme ısrarı nedeniyle Stability AI şirketindeki işinden istifa etmiştir.^[2] Aynı şekilde, 2024 yılında başka bir yapay zeka araştırmacısı Suchir Balaji de benzer kaygılarla ChatGPT'nin mimarı olan OpenAI şirketinden ayrılmıştır.^[3]

Başka bir örnekte ise, 2018 yılında Google'da çalışan Meredith Whittaker, şirketin ABD Savunma Bakanlığının insansız hava araçları için hedefleme sistemleri geliştirme kararına açık bir şekilde karşı çıkmıştır.^[4] Google, en sonunda çalışanlarının baskısıyla bu projeden çekilmek zorunda kalmıştır.^[5]

Sonuç

Toplum olarak bilim insanlarını nasıl etkilediğimiz kritik önem taşımaktadır. Bir yandan hangi araştırmaların devlet ve hatta kimi zaman şirketlerce fonlanacağının kararına kamuoyu olarak etkide bulunurken, diğer yandan da türlü prestij mekanizmalarıyla bilim insanlarına rol modeller sağlıyoruz. Atom bombasının babası Oppenheimer'ı konu alan bir film yapmak veya bugünün yapay zeka öncülerine Nobel vermek, geleceğin bilim insanlarına da güçlü mesajlar iletiyor.

Evet, 20. yüzyılın hatalarını değiştiremeyiz ancak şu anda yapay zeka için halen daha iyi bir gelecek umut edebiliriz. Ed Newton-Rex ve Meredith Whittaker gibi, çalışmalarının etik sonuçlarını düşünenleri öne çıkarmalıyız. Onların sözlerine kulak vermek, bilimsel ve teknolojik gelişmeleri olumlu yönde şekillendirmek için en güçlü umudumuzu oluşturmakta.

Nükleer çağın da bize öğrettiği gibi, şu anda hangi bilimsel keşif-teknolojik atılımları ve hangi bilim insanlarını destekleyeceğimize yönelik olan seçimlerimiz, kendimizin ve çocuklarımızın içinde yaşamasını istediğimiz dünyanın değerlerini yansıtmalıdır.