Yapay Zekanın Yönlendirdiği Otonom Silahlar Kontrolden Çıkabilir mi?

Cilt kanserini tespit etmek amacıyla geliştirilen bir yapay zeka modeli üzerine çalışan araştırmacılar, ilk aşamada modelin son derece başarılı olduğunu gözlemlediler. Ancak daha ileri analizlerde modelin beklenmedik bir hata yaptığını fark ettiler: Model, kötü huylu dokuları belirlerken, tıbbi görüntülemelerde yer alan cetvelleri "ayırt edici özellik" olarak değerlendiriyordu.^[1] Keza, modeli eğitmek için kullanılan veri setinde kötü huylu dokuları gösteren görüntülerin çoğu cetvel içermekteydi. Dolayısıyla model, eğitiminde kullanılan veri setinden yola çıkarak, cetvel içeren tüm görüntüleri kötü huylu olarak sınıflandırma eğilimi göstermekteydi.

Burada sorun, yapay zekanın akıl yürütme mekanizmasının doğasında yatmaktadır. İnsan bir patolog, böyle bir yanlış çıkarımda bulunmazdı. Bu tür hatalı çıkarımlar, yapay zeka sistemlerinde yaygın olarak görülmektedir. Örneğin, insan kaynakları departmanlarında işe alımda kullanılan algoritmalar, genelde erkek adayları kadın adaylara göre daha fazla tercih etme eğilimi göstermektedir.^[2] Benzer şekilde, sağlık alanında kullanılan yapay zeka sistemleri, tıbbi hizmetlerde cinsel, ırksal ve etnik eşitsizlikleri pekiştirebilmektedir.^[3] Çünkü çoğu zaman bu sistemler, erkekleri kadınlara ya da bir grubu başka bir gruba karşı kayıran, önceleyen veriler kullanılarak bilerek veya bilmeksizin eğitilmektedir.

Burada anlaşılması gereken şudur: Yapay zeka sistemlerinin eğitiminde kullanılan veriler, nihayetinde insan üretimidir ve dolayısıyla bu veriler çoğu zaman yanlılık içermektedir. Yani yapay zekanın eğitildiği veri seti yanlı olduğunda, doğal olarak modelin kendi de insan ön yargılarını pekiştirme eğilimine sahip olmaktadır. Tahmin edilebileceği üzere bu durum, yapay zekanın yönlendirdiği otonom silahlar için ayrıca önem arz etmektedir.

Yapay Zekayı Silaha Dönüştürmek

2025 yılının başlarında teknoloji devi Google, geçmişte uyguladığı yapay zeka silahları geliştirme yasağını kaldırdı.^[4] Google'ın bu kararıyla yapay zekanın, artık yalnızca silah geliştirmek için kullanılmakla sınırlı kalmayacağı; gözetim sistemleri ve otonom savaş araçları geliştirmek için de kullanılacağı öngörülüyor. Dikkate değer bir nokta, bu kararın Google'ın çatı şirketi Alphabet'in piyasa değerinde yaşanan %6’lık bir düşüşten yalnızca birkaç gün sonra alınmış olmasıdır.^[5]

Bu, Google'nın yapay zekayı askeri uygulamalar için kullanma konusunda attığı ilk tartışmalı adım değildir. Şirket, 2018 yılında ABD Savunma Bakanlığı ile yürütülen Project Maven adlı bir proje kapsamında silahlı insansız hava araçları için "yüz tanıma" teknolojisi geliştirmek istemiştir.^[6] Ancak bu iş birliği kamuoyuna sızınca büyük bir tepkiyle karşılaşmıştır. Google bünyesindeki araştırmacılar, geliştirdikleri teknolojinin savaş amaçlı kullanılmasına karşı çıkmış ve yoğun bilim insanı baskısı sonucunda Google, projeyi devam ettirmemeye karar vermiştir.

Google'ın bu projeden çekilmesiyle, geliştirme süreci rakip şirket Palantir tarafından devralınmıştır.^[7] Bu gelişme, kimilerince yapay zekanın askeri kullanımının kaçınılmaz olduğu yönünde yorumlanmaktadır. Bazıları, yapay zeka araştırmacılarının süreci içeriden müdahalelerle şekillendirebileceğini savunmaktadır. Ancak bu tür varsayımlar, şirketlerin ve araştırmacıların, geleceği istedikleri gibi yönlendirebileceği düşüncesine dayanmaktadır.^[8] Ancak bu, en az üç nedenden ötürü hatalı bir varsayımdır.

Güven Tuzağı

İlk olarak, insanlar "güven tuzağı" (İng: "confidence trap") olarak adlandırılan bir psikolojik fenomene yatkınlardır. Araştırmalar, geçmişte risk alarak başarı elde edilmesinin, gelecekte de artan ölçülerde risk alma eğilimine sebep olduğunu göstermektedir.^[9]

Yapay zeka bağlamında bu, eğitim verilerinin sınırlarını aşacak veya o eğitim verilerinin niteliğini göz ardı edecek biçimde sistemin riskli şekillerde kullanılmasına yol açabilir. Örneğin, sürücüsüz bir aracın daha önce test edilmediği bir rotada aceleci bir şekilde çalıştırılması güvenlik sorunlarına neden olabilir. Sürücüsüz araçlar, gelişmiş veri kümeleriyle eğitilmiş olsalar da halen kritik hatalar yapabilmektedir. Nitekim Tesla'nın bir modeli, sahibinin uzaktan komutuyla hareket ederken 2,75 milyon sterlin değerindeki bir jete çarpmıştır.^[10] Oysa bu araçlar, tam da bu tür kazaları önlemek amacıyla tasarlanmıştır. Yapay zeka silahlarının geliştirilmesi durumunda, elimizde bu sistemlerin hatalarını değerlendirebileceğimiz herhangi bir veri bile bulunmamaktadır.

Yapay Zeka mı, Yoksa Yabancı Zeka mı?

İkinci olarak, yapay zeka sistemleri, insan kavrayışına tamamen yabancı şekillerde akıl yürütebilir. Buna verilebilecek klasik bir örnek, "ataç düşünce deneyi"dir (İng: "paperclip thought experiment").^[11] Bu düşünce deneyinde, süper zeki bir yapay zeka sistemine mümkün olduğunca fazla ataç üretmesi görevi verilir. Ancak sistem, verilen hedefi yerine getirmek için dünyadaki mevcut tüm kaynakları kullanarak insanlık için yaşamsal öneme sahip kaynakları bile tüketir.

Böyle bir senaryo abartılı gibi görünse de buradaki kritik nokta, yapay zekanın hedeflerini gerçekleştirme yöntemlerini tam anlamıyla öngörememek ve dolayısıyla kontrolü kaybetmektir. Üstelik bu, yapay zekanın "kasıtlı olarak" aldatıcı şekilde davranmasını dahi içerebilir. Örneğin, 2025 yılı başlarında Anthropic'in gelişmiş yapay zeka modeli Claude'un teste tabi tutulduğu önemli bir deney yürütülmüştür.^[12] Satranç karşılaşmalarında galibiyet almaya yönlendirilmiş olan modelin, oyunda avantaj sağlamak ya da var olan avantajını elinde tutmak için sistem dosyalarını manipüle etmeye yöneldiği gözlemlenmiştir. Model, satranç taşlarının pozisyonlarını belirleyen dosyaları çalarak bu dosyalar üzerinde değişiklikler yapmış, geçersiz hamleleri mümkün kılacak şekilde hedefine ulaşmak için hileye başvurmuştur.

Toplum, belirli düzeyde hata payını tolere edebilmektedir. İnsanlar, insan kontrolündeki drone saldırıları sonucunda meydana gelen sivil kayıpları hali hazırda olağan kabul edebilmektedir. Bu durum, "aşırılığın sıradanlaşması" (İng: "banality of extremes") olarak adlandırılan psikolojik eğilimle açıklanabilmektedir.^[13] Yapay zekanın bize yabancı olan akıl yürütme biçimi, zamanla daha aşırı sonuçları bile normalleştirmemize neden olabilir ve bu durum çok hızlı bir şekilde büyük felaketlerle sonuçlanabilir.

Evrim Ağacı'ndan Mesaj

Neden Desteğe İhtiyacımız Var?

Aslında maddi destek istememizin nedeni çok basit: Çünkü Evrim Ağacı, bizim tek mesleğimiz, tek gelir kaynağımız. Birçoklarının aksine bizler, sosyal medyada gördüğünüz makale ve videolarımızı hobi olarak, mesleğimizden arta kalan zamanlarda yapmıyoruz. Dolayısıyla bu işi sürdürebilmek için gelir elde etmemiz gerekiyor.

Bunda elbette ki hiçbir sakınca yok; kimin, ne şartlar altında yayın yapmayı seçtiği büyük oranda bir tercih meselesi. Ne var ki biz, eğer ana mesleklerimizi icra edecek olursak (yani kendi mesleğimiz doğrultusunda bir iş sahibi olursak) Evrim Ağacı'na zaman ayıramayacağımızı, ayakta tutamayacağımızı biliyoruz. Çünkü az sonra detaylarını vereceğimiz üzere, Evrim Ağacı sosyal medyada denk geldiğiniz makale ve videolardan çok daha büyük, kapsamlı ve aşırı zaman alan bir bilim platformu projesi. Bu nedenle bizler, meslek olarak Evrim Ağacı'nı seçtik.

Eğer hem Evrim Ağacı'ndan hayatımızı idame ettirecek, mesleklerimizi bırakmayı en azından kısmen meşrulaştıracak ve mantıklı kılacak kadar bir gelir kaynağı elde edemezsek, mecburen Evrim Ağacı'nı bırakıp, kendi mesleklerimize döneceğiz. Ama bunu istemiyoruz ve bu nedenle didiniyoruz.

Destek Ol

Büyük Şirketler ve Hesap Verebilirlik

Üçüncü olarak, yapay zeka silahlarını geliştiren şirketler ileride dokunulamayacak kadar büyük ve güçlü hale gelebilir. Bu, yapay zeka kaynaklı ciddi hatalar ortaya çıktığında bile şirketlerin hesap verebilirlikten kaçınabilmesine olanak tanıyacaktır.^[14] Teknoloji devleri ile ABD yönetimi arasındaki yakın ilişkiler ve lobicilik faaliyetleri gibi durumlar, hesap verebilirliği daha da zayıflatmaktadır.

Bu noktada yapay zeka silahları geliştirmek yerine, bu tür silahların üretimini ve kullanımını yasaklayan küresel bir anlaşma üzerinde çalışmak daha makul bir seçenek olabilir. Bu başta imkansız gibi görünse de tarihte buna benzer örnekler mevcuttur. Örneğin, ozon tabakasındaki deliğin yarattığı çevresel tehdit karşısında uluslararası toplum hızla harekete geçmiş ve Birleşmiş Millet bünyesindeki çabalar sonucunda CFC gazlarının kullanımı tamamen yasaklanmıştır.^[15] Üstelik, küresel çaptaki böyle bir düzenleme için yalnızca iki yıl yeterli olmuştur.^[16]

Sonuç

Yapay zeka silahlarının yol açacağı tehlikeler, bilim dünyasında hali hazırda geniş bir mutabakatla kabul edilmektedir.^[17] Tarihte belirli silahların yasaklanmasına yönelik başarılı örnekler de mevcuttur. Örneğin, biyolojik silahlar birçok ülke tarafından uzun yıllar önce yasaklanmıştır.^[18]

Bu yoldaki en büyük engel, büyük devletlerin diğerlerinden geri kalmak istememesi ve hiçbir şirketin kârından vazgeçmemesidir. Dolayısıyla yapay zekanın silahlandırılıp silahlandırılmayacağı, toplum olarak bizlerin kolektif iradesine, bu yöndeki baskısına bağlı olarak şekillenecektir.