Yapay Zekanın Yönlendirdiği Otonom Silahlar Kontrolden Çıkabilir mi?

Cilt kanserini tespit etmek amacıyla geliştirilen bir yapay zeka modeli üzerine çalışan araştırmacılar, ilk aşamada modelin son derece başarılı olduğunu gözlemlediler. Ancak daha ileri analizlerde modelin beklenmedik bir hata yaptığını fark ettiler: Model, kötü huylu dokuların belirlenmesi için eğitiminde kullanılan veri setindeki görüntülerde yer alan cetvelleri ayırt edici bir özellik olarak değerlendiriyordu.^[1] Bunun sonucunda model, cetvel içeren tüm görüntüleri kötü huylu olarak sınıflandırma eğilimi göstermekteydi. Buradaki sorun, hatalı akıl yürütme mekanizmasının doğasında yatıyordu. Keza insan bir patolog, böyle bir yanlış çıkarımda bulunmazdı.

Bu tür hatalı çıkarımlar, yapay zeka sistemlerinde yaygın olarak görülmektedir. Örneğin, insan kaynakları departmanlarında kullanılan algoritmalar, çoğunlukla erkekleri kayıran insanların yaptığı işe alımların verileriyle eğitildiklerinden dolayı erkek adayları daha fazla tercih etme eğilimi göstermektedir.^[2] Benzer şekilde, sağlık alanında kullanılan yapay zeka sistemleri, tıbbi hizmetlerde ırksal ve etnik eşitsizlikleri pekiştirebilmektedir.^[3]

Yapay Zekayı Silaha Dönüştürmek

2025 yılının başlarında teknoloji devi Google, geçmişte uyguladığı yapay zeka silahları geliştirme yasağını kaldırdı.^[4] Bu kararın yapay zekayı yalnızca silah geliştirmek için kullanmakla sınırlı kalmayacağı, gözetim sistemleri ve otonom savaş araçları geliştirmede de geniş kapsamlı etkilerinin olacağı öngörülüyor. Dikkate değer bir nokta, bu kararın Google'ın çatı şirketi Alphabet'in piyasa değerinde yaşanan %6’lık bir düşüşten yalnızca birkaç gün sonra alınmış olmasıdır.^[5]

Bu, Google'nın yapay zekayı askeri uygulamalar için kullanma konusunda attığı ilk tartışmalı adım değildir. Şirket, 2018 yılında ABD Savunma Bakanlığı ile yürütülen Project Maven adlı bir proje kapsamında silahlı insansız hava araçları için yüz tanıma teknolojisi geliştirmek istemiştir.^[6] Ancak bu iş birliği kamuoyuna sızınca büyük bir tepkiyle karşılaşmıştır. Google bünyesindeki araştırmacılar, teknolojilerinin savaş amaçlı kullanılmasına karşı çıkmış ve yoğun bilim insanı baskısı sonucunda Google, projeyi devam ettirmemeye karar vermiştir.

Google'ın bu projeden çekilmesiyle, geliştirme süreci rakip şirket Palantir tarafından devralınmıştır.^[7] Bu gelişme, kimilerince yapay zekanın askeri kullanımının kaçınılmaz olduğu yönünde yorumlanmaktadır. Bazıları, yapay zeka araştırmacılarının süreci içeriden müdahalelerle şekillendirebileceğini savunmaktadır. Ancak bu tür varsayımlar, şirketlerin ve araştırmacıların geleceği istedikleri gibi yönlendirebileceği düşüncesine dayanmaktadır.^[8] Ancak bu, en az üç nedenden ötürü hatalı bir varsayımdır.

Güven Tuzağı

İlk olarak, insanlar "güven tuzağı" (İng: "confidence trap") olarak adlandırılan bir psikolojik fenomene yatkındır. Araştırmalar, geçmişte risk alarak başarı elde edenlerin, gelecekte de artan ölçülerde risk alma eğiliminde olduğunu göstermektedir.^[9]

Yapay zeka bağlamında bu, bir algoritmanın eğitim verilerinin sınırlarını aşarak riskli şekillerde kullanılmasına yol açabilecektir. Örneğin, sürücüsüz bir aracın daha önce test edilmediği bir rotada çalıştırılması güvenlik sorunlarına neden olabilir. Sürücüsüz araçlar, gelişmiş veri kümeleriyle eğitilmiş olsalar da halen kritik hatalar yapabilmektedir. Nitekim Tesla'nın bir modeli, sahibinin uzaktan komutuyla hareket ederken 2,75 milyon sterlin değerindeki bir jete çarpmıştır.^[10] Oysa bu araçlar, tam da bu tür kazaları önlemek amacıyla tasarlanmıştır. Yapay zeka silahlarının geliştirilmesi durumunda, elimizde bu sistemlerin hatalarını değerlendirebileceğimiz herhangi bir veri bile bulunmamaktadır.

Yapay Zeka mı, Yoksa Yabancı Zeka mı?

İkinci olarak, yapay zeka sistemleri, insan kavrayışına tamamen yabancı şekillerde akıl yürütebilir. Buna verilebilecek klasik bir örnek, "ataç düşünce deneyi"dir (İng: "paperclip thought experiment").^[11] Bu düşünce deneyinde, süper zeki bir yapay zeka sistemine mümkün olduğunca fazla ataç üretmesi görevi verilir. Ancak sistem, verilen hedefi yerine getirmek için mevcut tüm kaynakları kullanarak insanlık için yaşamsal öneme sahip kaynakları bile tüketebilir.

Bu senaryo abartılı gibi görünse de buradaki kritik nokta, yapay zekanın hedeflerini gerçekleştirme yöntemlerini tam anlamıyla öngörememek ve dolayısıyla kontrolü kaybetmektir. Üstelik bu, yapay zekanın "kasıtlı olarak" hile yapmasını dahi içerebilir. Örneğin, 2025 yılı başlarında Anthropic'in gelişmiş yapay zeka modeli Claude'un teste tabi tutulduğu önemli bir deney yürütülmüştür.^[12] Satranç karşılaşmalarında galibiyet almaya yönlendirilmiş olan modelin, oyunda avantaj sağlamak ya da var olan avantajını elinde tutmak için sistem dosyalarını manipüle etmeye yöneldiği gözlemlenmiştir. Model, satranç taşlarının pozisyonlarını belirleyen dosyaları çalarak bu dosyalar üzerinde değişiklikler yapmış, geçersiz hamleleri mümkün kılacak şekilde hile yapmıştır.

Toplum olarak belirli düzeyde hata payını tolere edebiliriz. İnsanlar, insan kontrolündeki drone saldırıları sonucunda meydana gelen sivil kayıpları hali hazırda olağan kabul edebilmektedir. Bu durum, "aşırılığın sıradanlaşması" (İng: "banality of extremes") olarak adlandırılan psikolojik eğilimle açıklanabilmektedir.^[13] Yapay zekanın bize yabancı olan akıl yürütme biçimi, zamanla daha aşırı sonuçları bile normalleştirmemize neden olabilir.

Büyük Şirketler ve Hesap Verebilirlik

Üçüncü olarak, yapay zeka silahlarını geliştiren şirketler ileride batmayacak kadar büyük ve güçlü hale gelebilir. Bu, yapay zeka kaynaklı ciddi hatalar ortaya çıktığında bile şirketlerin hesap verebilirlikten kaçınabilmesine olanak tanıyacaktır.^[14] Teknoloji devleri ile ABD yönetimi arasındaki yakın ilişkiler ve lobicilik faaliyetleri gibi durumlar hesap verebilirliği daha da zayıflatmaktadır.

Yapay zeka silahları geliştirmek yerine, bu tür silahların üretimini ve kullanımını yasaklayan küresel bir anlaşma üzerinde çalışmak daha makul bir seçenek olabilir. Bu imkansız gibi görünse de tarihte benzer örnekler mevcuttur. Örneğin, ozon tabakasındaki deliğin yarattığı çevresel tehdit karşısında uluslararası toplum hızla harekete geçmiş ve çabalar sonucunda CFC gazlarının kullanımı tamamen yasaklanmıştır.^[15] Küresel çapta bir düzenleme için yalnızca iki yıl yeterli olmuştur.^[16]

Sonuç

Yapay zeka silahlarının yol açacağı tehlikeler, bilim dünyasında hali hazırda geniş bir mutabakatla kabul edilmektedir.^[17] Tarihte belirli silahların yasaklanmasına yönelik başarılı örnekler de mevcuttur. Örneğin, biyolojik silahlar birçok ülke tarafından uzun yıllar önce yasaklanmıştır.^[18]

Bu yoldaki en büyük engel, büyük devletlerin diğerlerinden geri kalmak istememesi ve hiçbir şirketin kârından vazgeçmemesidir. Dolayısıyla yapay zekanın silahlandırılıp silahlandırılmayacağı, toplum olarak bizlerin kolektif iradesine bağlı olarak şekillenecektir.