Yapay Zeka Araştırmacılarından Açık Mektup: Geleceğin Kalaşnikofları Olan Otonom Silahlanma Yarışını Durdurun!

2014'ün ortalarında başlayan "Şeytani Yapay Zekaya karşı büyük birlik" furyası, 2015'in ortalarında iyice şiddetlenerek Dünya'nın dört bir yanına yayıldı. Özellikle medya kaynaklarının hatalı anlatımları, gereğinden abartılı başlıkları, yanlış yönlendirmeleri dolayısıyla geleceğin teknolojisi yapay zeka karşısında tuhaf bir kitle örgütlenmeye başladı. Dahası bu kitle, bilim insanlarının dikkat çektiği uyarılara değil, medya kaynaklarının pohpohladığı "Terminatör-vari bir son"a karşı birlik oluyorlar.

Halbuki bu alana yıllarını vermiş bilim insanlarının korkusu, bir makina yükselişi falan değil! Onların korkusu, yapay zeka ile donatılmış modern silahların doğurabileceği bazı sıkıntılar. Üstelik "Bunları tamamen durduralım." bile demiyorlar! Konu hakkında araştırmaların önünün açılması konusunda kamuoyu yaratmaya çalışıyorlar ve Yapay Zeka'nın bir silahlanma yarışı aracı haline dönüştürülmesinin önüne geçmek istiyorlar.

Bunu dikkat çeken (ve medya tarafından çokça çarpıtılan) bir mektup, Yaşamın Geleceği Enstitüsü (Future of Life Institute) önderliğinde hazırlanan "Otonom Silahlar: Yapay Zeka ve Robotbilim Araştırmacılarından Açık Mektup" isimli mektuptur. Mektubun tam metni şöyle:

Otonom silahlar insan müdahalesi olmaksızın hedefleri seçer ve vurur. Bu tanıma, örneğin, önceden belirlenmiş birtakım kriterlere sahip kişileri bulup yok edebilen silahlı kuadkopterler (dört pervaneli robot helikopter) girebilir; fakat tanım, tüm hedeflendirme kararlarını insanların verdiği uzaktan yönlendirilebilen güdümlü füzeleri veya dronları (insansız uçakları) kapsamaz. Yapay Zeka (YZ) teknolojisi, bu tür sistemlerin on yıllar sonra değil, sadece yıllar sonra, yasal olmadan da olsa pratikte kullanılabileceği bir noktaya ulaştı ve bu işin tehlike boyutu büyük: Otonom silahlar, askeriyede barut ve nükleer silahlardan sonra üçüncü devrim olarak nitelendirilmektedir.

Tüm Reklamları Kapat

Yapay Zeka ile ilgili diğer içerikler ›

• Yapay Zeka ile Güçlendirilmiş Elektrokardiyografi, COVID-19 Enfeksiyonlarını Etkili Bir Şekilde Ayırt Edebiliyor!
• Yapay Zekânın Teorik Sınırlamaları Olabilir mi?
• DNA ve Enzimleri Kullanarak Hesap Yapan Biyolojik Bilgisayar!

Otonom silahların lehine ve aleyhine pek çok argüman geliştirilmiştir. Örneğin insan askerlerin yerine makine kullanma, makineye sahip olan ülkeler için insan zayiatını azaltması bakımından iyi, fakat bu sebeple savaşa girme ihtimalini yükseltmesi bakımından ise kötü bir fikirdir. Bugün insanlık için en kilit soru, küresel bir "Yapay Zekaya Sahip Silahlanma yarışını" başlatmak ya da bunu önlemektir. Şayet herhangi büyük askeri bir güç Yapay Zekaya Sahip silahları geliştirmede öne geçerse, küresel bir silahlanma yarışı fiilen kaçınılmaz olur. Bu teknolojik gidişatın nereye varacağı ise şimdiden görülebilir: Otonom silahlar, geleceğin Kalaşnikofları olacaktır. Nükleer silahların aksine, bu silahların üretimi için pahalı ve elde etmesi zor ham maddeye gerek yoktur, bu yüzden de bütün önemli askeri güçler için seri üretim bakımından kolay bulunur ve ucuz olacaklardır. Karaborsada görülmeleri, teröristlerin, halkını daha iyi kontrol etmek isteyen diktatörlerin ya da soykırım başlatmak isteyen savaş baronlarının ve benzerlerinin ellerinde görülmeleri sadece zaman meselesi olacaktır. Otonom silahlar; suikast düzenleme, devletleri istikrarsızlaştırma, halkları boyunduruk altına alma ve belli bir etnik grubun hedef alınarak öldürülmesi gibi eylemler için kusursuzdur. Bu sebeple, inanıyoruz ki, (askeri türden) Yapay Zekaya Sahip silahlanma yarışı, insanlık için faydalı olmayacaktır.

Kimyasal ya da biyolojik silah yapmaya ilgi duymayan çoğu kimyager ve biyolog gibi, pek çok YZ araştırmacısı da YZS silahlar yapmakla ilgilenmiyor. Hatta diğer araştırmacıların YZS silahlar geliştirip (YZ’nın ileride getireceği toplumsal yararların önünü kesecek) YZ karşıtı geniş çaplı kitlesel tepkiler yaratarak alanlarına leke getirmelerini istemiyorlar. Uzay temelli nükleer silahları ve kör edici lazer silahları yasaklayan anlaşmaları destekleyen çoğu fizikçi gibi, kimyagerler ve biyologlar da kimyasal ve biyolojik silahlara tamamıyla yasak getiren uluslararası anlaşmaları gerçekten de geniş çapta desteklemişlerdir. 

Özetleyecek olursak, YZ’nın birçok bakımdan insanlığa yarar sağlayacak önemli bir güç olduğuna ve YZ alanının hedefinin bu olması gerektiğine inanıyoruz. Askeri türden YZS bir silahlanma yarışı başlatma kötü bir fikirdir ve bu yarış, ‘anlamlı’ insan denetiminden yoksun saldırgan otonom silahlara yasak getirilerek önlenmelidir. (Ç.N: ‘anlamlı’ insan denetimi tanımı için yazımıza bakınız.)

Evrim Ağacı'ndan Mesaj

Neden Desteğe İhtiyacımız Var?

Aslında maddi destek istememizin nedeni çok basit: Çünkü Evrim Ağacı, bizim tek mesleğimiz, tek gelir kaynağımız. Birçoklarının aksine bizler, sosyal medyada gördüğünüz makale ve videolarımızı hobi olarak, mesleğimizden arta kalan zamanlarda yapmıyoruz. Dolayısıyla bu işi sürdürebilmek için gelir elde etmemiz gerekiyor. Bunda elbette ki hiçbir sakınca yok; kimin, ne şartlar altında yayın yapmayı seçtiği büyük oranda bir tercih meselesi. Ne var ki biz, eğer ana mesleklerimizi icra edecek olursak... Daha fazla göster

Aslında maddi destek istememizin nedeni çok basit: Çünkü Evrim Ağacı, bizim tek mesleğimiz, tek gelir kaynağımız. Birçoklarının aksine bizler, sosyal medyada gördüğünüz makale ve videolarımızı hobi olarak, mesleğimizden arta kalan zamanlarda yapmıyoruz. Dolayısıyla bu işi sürdürebilmek için gelir elde etmemiz gerekiyor.

Bunda elbette ki hiçbir sakınca yok; kimin, ne şartlar altında yayın yapmayı seçtiği büyük oranda bir tercih meselesi. Ne var ki biz, eğer ana mesleklerimizi icra edecek olursak (yani kendi mesleğimiz doğrultusunda bir iş sahibi olursak) Evrim Ağacı'na zaman ayıramayacağımızı, ayakta tutamayacağımızı biliyoruz. Çünkü az sonra detaylarını vereceğimiz üzere, Evrim Ağacı sosyal medyada denk geldiğiniz makale ve videolardan çok daha büyük, kapsamlı ve aşırı zaman alan bir bilim platformu projesi. Bu nedenle bizler, meslek olarak Evrim Ağacı'nı seçtik.

Eğer hem Evrim Ağacı'ndan hayatımızı idame ettirecek, mesleklerimizi bırakmayı en azından kısmen meşrulaştıracak ve mantıklı kılacak kadar bir gelir kaynağı elde edemezsek, mecburen Evrim Ağacı'nı bırakıp, kendi mesleklerimize döneceğiz. Ama bunu istemiyoruz ve bu nedenle didiniyoruz.

Destek Ol

Bu son derece makul ve mantıklı mektubu, 24 Şubat 2022 itibariyle Dünya çapında bilim insanlarının ve bugün ile geleceğe yön vermiş mühendislerin de bulunduğu 4.667 Yapay Zeka ve Robotik Bilim araştırmacısı ile 26.863 diğer imzacı imzaladı! İmzacılar arasında Dünya çapında tanınan AAAI, IEEE-RAS, IJCAI, ECCAI gibi bilim organizasyonları ve akademik makale dergileri yöneticileri ve kurul üyeleri de bulunuyor. Eğer imzacı olmak isterseniz, buraya tıklayarak imzalayabilirsiniz.

Küresel silahsızlanma, her ülkenin ve her insanın birincil görevlerinden olmalıdır. Bu, insani bir sorumluluktur. Kitlesel çapta kullanılan silahlar bugüne kadar hiç kimseye fayda getirmemiştir. Üstelik güçlü ekonomik çarkların döndüğü bu sektör, kan ile beslenmektedir ve bu nedenle çok tehlikelidir.

Yapay Zeka, insanlığı evrimin bir üst basamağına taşımaya aday olan, akıl almaz bir teknolojidir. Her geçen gün, bir önceki günden daha güçlü bir hale gelmektedir. Tıpkı atomu parçalamanın radyoloji ve radyografi gibi dünyayı değiştiren bilimlerin önünü açması ama bir yandan da atom bombasını mümkün kılması gibi; yapay zeka da hem iyilik hem de kötülük için kullanılabilecek bir araçtır.

Bu noktada insaniyetini yitirmemiş bilim insanlarının seslerini yükselterek insanlığı doğru yöne doğrultmalarından daha doğal ve insani bir girişim olamaz! Buna karşılık, bu insani girişimi bir prim aracı ve halkları galeyana getirme aracı olarak kullanmanın da hiçbir affı ve kabulü olamaz. Sadece medya kaynakları değil, halklar üzerindeki histeriyi inatla dürten bilim insanları ve girişimciler de sınırları iyi çizmeli ve açıklamalarını rasyonel ve realist bir düzlemde yapmalıdırlar.

Biz de Evrim Ağacı olarak, naçizane görüşlerimiz ve konu hakkındaki akademik deneyimimiz çerçevesinde, bu saygın bilim insanlarının arasında yer alarak insanlığın iyiliği için adım atmaktan onur duyar, imzamızı açık mektubun altına iliştirdiğimizi tüm okurlarımıza sevgi ve saygıyla duyururuz.

En içten saygılarımızla.