Otonom Silahlar: Yapay Zeka Araştırmacıları ve Robotikçilerden Açık Mektup

Otonom Silahlar: Yapay Zeka Araştırmacıları ve Robotikçilerden Açık Mektup
Sicario 2 filminden bir sahne.
YouTube
 AyşegülŞenyiğit Özdil Çevirmen Ayşegül Şenyiğit Özdil
4 dakika
3,563 Okunma Sayısı
Notlarım
Reklamı Kapat

2014'ün ortalarında başlayan "Şeytani Yapay Zekaya karşı büyük birlik" furyası, 2015'in ortalarında iyice şiddetlenerek Dünya'nın dört bir yanına yayıldı. Özellikle medya kaynaklarının hatalı anlatımları, gereğinden abartılı başlıkları, yanlış yönlendirmeleri dolayısıyla geleceğin teknolojisi yapay zeka karşısında tuhaf bir kitle örgütlenmeye başladı. Dahası bu kitle, bilim insanlarının dikkat çektiği uyarılara değil, medya kaynaklarının pohpohladığı "Terminatör-vari bir son"a karşı birlik oluyorlar.

Halbuki bu alana yıllarını vermiş bilim insanlarının korkusu, bir makina yükselişi falan değil! Onların korkusu, yapay zeka ile donatılmış modern silahların doğurabileceği bazı sıkıntılar. Üstelik "Bunları tamamen durduralım." bile demiyorlar! Konu hakkında araştırmaların önünün açılması konusunda kamuoyu yaratmaya çalışıyorlar ve Yapay Zeka'nın bir silahlanma yarışı aracı haline dönüştürülmesinin önüne geçmek istiyorlar.

Bunu dikkat çeken (ve medya tarafından çokça çarpıtılan) bir mektup, Yaşamın Geleceği Enstitüsü (Future of Life Institute) önderliğinde hazırlanan "Otonom Silahlar: Yapay Zeka ve Robotbilim Araştırmacılarından Açık Mektup" isimli mektuptur. Mektubun tam metni şöyle:

Reklamı Kapat

Otonom silahlar insan müdahalesi olmaksızın hedefleri seçer ve vurur. Bu tanıma, örneğin, önceden belirlenmiş birtakım kriterlere sahip kişileri bulup yok edebilen silahlı kuadkopterler (dört pervaneli robot helikopter) girebilir; fakat tanım, tüm hedeflendirme kararlarını insanların verdiği uzaktan yönlendirilebilen güdümlü füzeleri veya dronları (insansız uçakları) kapsamaz. Yapay Zeka (YZ) teknolojisi, bu tür sistemlerin on yıllar sonra değil, sadece yıllar sonra, yasal olmadan da olsa pratikte kullanılabileceği bir noktaya ulaştı ve bu işin tehlike boyutu büyük: Otonom silahlar, askeriyede barut ve nükleer silahlardan sonra üçüncü devrim olarak nitelendirilmektedir.

Otonom silahların lehine ve aleyhine pek çok argüman geliştirilmiştir. Örneğin insan askerlerin yerine makine kullanma, makineye sahip olan ülkeler için insan zayiatını azaltması bakımından iyi, fakat bu sebeple savaşa girme ihtimalini yükseltmesi bakımından ise kötü bir fikirdir. Bugün insanlık için en kilit soru, küresel bir "Yapay Zekaya Sahip Silahlanma yarışını" başlatmak ya da bunu önlemektir. Şayet herhangi büyük askeri bir güç Yapay Zekaya Sahip silahları geliştirmede öne geçerse, küresel bir silahlanma yarışı fiilen kaçınılmaz olur. Bu teknolojik gidişatın nereye varacağı ise şimdiden görülebilir: Otonom silahlar, geleceğin Kalaşnikofları olacaktır. Nükleer silahların aksine, bu silahların üretimi için pahalı ve elde etmesi zor ham maddeye gerek yoktur, bu yüzden de bütün önemli askeri güçler için seri üretim bakımından kolay bulunur ve ucuz olacaklardır. Karaborsada görülmeleri, teröristlerin, halkını daha iyi kontrol etmek isteyen diktatörlerin ya da soykırım başlatmak isteyen savaş baronlarının ve benzerlerinin ellerinde görülmeleri sadece zaman meselesi olacaktır. Otonom silahlar; suikast düzenleme, devletleri istikrarsızlaştırma, halkları boyunduruk altına alma ve belli bir etnik grubun hedef alınarak öldürülmesi gibi eylemler için kusursuzdur. Bu sebeple, inanıyoruz ki, (askeri türden) Yapay Zekaya Sahip silahlanma yarışı, insanlık için faydalı olmayacaktır.

Kimyasal ya da biyolojik silah yapmaya ilgi duymayan çoğu kimyager ve biyolog gibi, pek çok YZ araştırmacısı da YZS silahlar yapmakla ilgilenmiyor. Hatta diğer araştırmacıların YZS silahlar geliştirip (YZ’nın ileride getireceği toplumsal yararların önünü kesecek) YZ karşıtı geniş çaplı kitlesel tepkiler yaratarak alanlarına leke getirmelerini istemiyorlar. Uzay temelli nükleer silahları ve kör edici lazer silahları yasaklayan anlaşmaları destekleyen çoğu fizikçi gibi, kimyagerler ve biyologlar da kimyasal ve biyolojik silahlara tamamıyla yasak getiren uluslararası anlaşmaları gerçekten de geniş çapta desteklemişlerdir. 

Özetleyecek olursak, YZ’nın birçok bakımdan insanlığa yarar sağlayacak önemli bir güç olduğuna ve YZ alanının hedefinin bu olması gerektiğine inanıyoruz. Askeri türden YZS bir silahlanma yarışı başlatma kötü bir fikirdir ve bu yarış, ‘anlamlı’ insan denetiminden yoksun saldırgan otonom silahlara yasak getirilerek önlenmelidir. (Ç.N: ‘anlamlı’ insan denetimi tanımı için yazımıza bakınız.)

Bu son derece makul ve mantıklı mektubu, 29 Temmuz 2015 itibariyle Dünya çapında bilim insanlarının ve bugün ile geleceğe yön vermiş mühendislerin de bulunduğu 1700 Yapay Zeka ve Robotik Bilim araştırmacısı ile 11.000 diğer imzacı imzaladı! İmzacılar arasında Dünya çapında tanınan AAAI, IEEE-RAS, IJCAI, ECCAI gibi bilim organizasyonları ve akademik makale dergileri yöneticileri ve kurul üyeleri de bulunuyor. Eğer imzacı olmak isterseniz, buraya tıklayarak imzalayabilirsiniz.

Evrim Ağacı'ndan Mesaj

Küresel silahsızlanma, her ülkenin ve her insanın birincil görevlerinden olmalıdır. Bu, insani bir sorumluluktur. Kitlesel çapta kullanılan silahlar bugüne kadar hiç kimseye fayda getirmemiştir. Üstelik güçlü ekonomik çarkların döndüğü bu sektör, kan ile beslenmektedir ve bu nedenle çok tehlikelidir.

Yapay Zeka, insanlığı evrimin bir üst basamağına taşımaya aday olan, akıl almaz bir teknolojidir. Her geçen gün, bir önceki günden daha güçlü bir hale gelmektedir. Tıpkı atomu parçalamanın radyoloji ve radyografi gibi dünyayı değiştiren bilimlerin önünü açması ama bir yandan da atom bombasını mümkün kılması gibi; yapay zeka da hem iyilik hem de kötülük için kullanılabilecek bir araçtır.

Bu noktada insaniyetini yitirmemiş bilim insanlarının seslerini yükselterek insanlığı doğru yöne doğrultmalarından daha doğal ve insani bir girişim olamaz! Buna karşılık, bu insani girişimi bir prim aracı ve halkları galeyana getirme aracı olarak kullanmanın da hiçbir affı ve kabulü olamaz. Sadece medya kaynakları değil, halklar üzerindeki histeriyi inatla dürten bilim insanları ve girişimciler de sınırları iyi çizmeli ve açıklamalarını rasyonel ve realist bir düzlemde yapmalıdırlar.

Biz de Evrim Ağacı olarak, naçizane görüşlerimiz ve konu hakkındaki akademik deneyimimiz çerçevesinde, bu saygın bilim insanlarının arasında yer alarak insanlığın iyiliği için adım atmaktan onur duyar, imzamızı açık mektubun altına iliştirdiğimizi tüm okurlarımıza sevgi ve saygıyla duyururuz.

Reklamı Kapat

En içten saygılarımızla.

Okundu Olarak İşaretle
Bu İçerik Size Ne Hissettirdi?
  • Tebrikler! 7
  • Korkutucu! 2
  • İnanılmaz 1
  • Grrr... *@$# 1
  • Muhteşem! 0
  • Bilim Budur! 0
  • Mmm... Çok sapyoseksüel! 0
  • Güldürdü 0
  • Umut Verici! 0
  • Merak Uyandırıcı! 0
  • Üzücü! 0
  • İğrenç! 0
Kaynaklar ve İleri Okuma

Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?

Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:

kreosus.com/evrimagaci | patreon.com/evrimagaci

Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 23/10/2021 21:33:39 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/3816

İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.

Reklamı Kapat
Size Özel
İçerikler
Instagram
Renk
Kimya
Taksonomi
Canlı
Sahtebilim
Protein
Filogenetik
Genel Görelilik
Kültür
Uzay
İnsan Sağlığı
Süpernova
Teori
İnsanın Evrimi
Asteroid
Zehir
Pandemik
Tüy
Özellikler
Hukuk
Bebek
Canlılık
Yemek
Eczacılık
Manyetik Alan
Daha Fazla İçerik Göster
Evrim Ağacı'na Destek Ol
Evrim Ağacı'nın %100 okur destekli bir bilim platformu olduğunu biliyor muydunuz? Evrim Ağacı'nın maddi destekçileri arasına katılarak Türkiye'de bilimin yayılmasına güç katmak için hemen buraya tıklayın.
Popüler Yazılar
30 gün
90 gün
1 yıl
EA Akademi
Evrim Ağacı Akademi (ya da kısaca EA Akademi), 2010 yılından beri ürettiğimiz makalelerden oluşan ve kendi kendinizi bilimin çeşitli dallarında eğitebileceğiniz bir çevirim içi eğitim girişimi! Evrim Ağacı Akademi'yi buraya tıklayarak görebilirsiniz. Daha fazla bilgi için buraya tıklayın.
Etkinlik & İlan
Bilim ile ilgili bir etkinlik mi düzenliyorsunuz? Yoksa bilim insanlarını veya bilimseverleri ilgilendiren bir iş, staj, çalıştay, makale çağrısı vb. bir duyurunuz mu var? Etkinlik & İlan Platformumuzda paylaşın, milyonlarca bilimsevere ulaşsın.
Podcast
Evrim Ağacı'nın birçok içeriğinin profesyonel ses sanatçıları tarafından seslendirildiğini biliyor muydunuz? Bunların hepsini Podcast Platformumuzda dinleyebilirsiniz. Ayrıca Spotify, iTunes, Google Podcast ve YouTube bağlantılarını da bir arada bulabilirsiniz.
Yazı Geçmişi
Okuma Geçmişi
Notlarım
İlerleme Durumunu Güncelle
Okudum
Sonra Oku
Not Ekle
Kaldığım Yeri İşaretle
Göz Attım

Evrim Ağacı tarafından otomatik olarak takip edilen işlemleri istediğin zaman durdurabilirsin.
[Site ayalarına git...]

Filtrele
Listele
Bu yazıdaki hareketlerin
Devamını Göster
Filtrele
Listele
Tüm Okuma Geçmişin
Devamını Göster
0/10000

Göster

Şifremi unuttum Üyelik Aktivasyonu

Göster

Şifrenizi mi unuttunuz? Lütfen e-posta adresinizi giriniz. E-posta adresinize şifrenizi sıfırlamak için bir bağlantı gönderilecektir.

Geri dön

Eğer aktivasyon kodunu almadıysanız lütfen e-posta adresinizi giriniz. Üyeliğinizi aktive etmek için e-posta adresinize bir bağlantı gönderilecektir.

Geri dön

Close
Geri Bildirim Gönder
Reklamsız Deneyim

Evrim Ağacı'nın çalışmalarına Kreosus, Patreon veya YouTube üzerinden maddi destekte bulunarak hem Türkiye'de bilim anlatıcılığının gelişmesine katkı sağlayabilirsiniz, hem de site ve uygulamamızı reklamsız olarak deneyimleyebilirsiniz. Reklamsız deneyim, Evrim Ağacı'nda çeşitli kısımlarda gösterilen Google reklamlarını ve destek çağrılarını görmediğiniz, daha temiz bir site deneyimi sunmaktadır.

Kreosus

Kreosus'ta her 10₺'lik destek, 1 aylık reklamsız deneyime karşılık geliyor. Bu sayede, tek seferlik destekçilerimiz de, aylık destekçilerimiz de toplam destekleriyle doğru orantılı bir süre boyunca reklamsız deneyim elde edebiliyorlar.

Kreosus destekçilerimizin reklamsız deneyimi, destek olmaya başladıkları anda devreye girmektedir ve ek bir işleme gerek yoktur.

Patreon

Patreon destekçilerimiz, destek miktarından bağımsız olarak, Evrim Ağacı'na destek oldukları süre boyunca reklamsız deneyime erişmeyi sürdürebiliyorlar.

Patreon destekçilerimizin Patreon ile ilişkili e-posta hesapları, Evrim Ağacı'ndaki üyelik e-postaları ile birebir aynı olmalıdır. Patreon destekçilerimizin reklamsız deneyiminin devreye girmesi 24 saat alabilmektedir.

YouTube

YouTube destekçilerimizin hepsi otomatik olarak reklamsız deneyime şimdilik erişemiyorlar ve şu anda, YouTube üzerinden her destek seviyesine reklamsız deneyim ayrıcalığını sunamamaktayız. YouTube Destek Sistemi üzerinde sunulan farklı seviyelerin açıklamalarını okuyarak, hangi ayrıcalıklara erişebileceğinizi öğrenebilirsiniz.

Eğer seçtiğiniz seviye reklamsız deneyim ayrıcalığı sunuyorsa, destek olduktan sonra YouTube tarafından gösterilecek olan bağlantıdaki formu doldurarak reklamsız deneyime erişebilirsiniz. YouTube destekçilerimizin reklamsız deneyiminin devreye girmesi, formu doldurduktan sonra 24-72 saat alabilmektedir.

Diğer Platformlar

Bu 3 platform haricinde destek olan destekçilerimize ne yazık ki reklamsız deneyim ayrıcalığını sunamamaktayız. Destekleriniz sayesinde sistemlerimizi geliştirmeyi sürdürüyoruz ve umuyoruz bu ayrıcalıkları zamanla genişletebileceğiz.

Giriş yapmayı unutmayın!

Reklamsız deneyim için, maddi desteğiniz ile ilişkilendirilmiş olan Evrim Ağacı hesabınıza üye girişi yapmanız gerekmektedir. Giriş yapmadığınız takdirde reklamları görmeye devam edeceksinizdir.

Destek Ol
Sizi Takip Ediyor

Devamını Oku
Evrim Ağacı Uygulamasını
İndir
Chromium Tabanlı Mobil Tarayıcılar (Chrome, Edge, Brave vb.)
İlk birkaç girişinizde zaten tarayıcınız size uygulamamızı indirmeyi önerecek. Önerideki tuşa tıklayarak uygulamamızı kurabilirsiniz. Bu öneriyi, yukarıdaki videoda görebilirsiniz. Eğer bu öneri artık gözükmüyorsa, Ayarlar/Seçenekler (⋮) ikonuna tıklayıp, Uygulamayı Yükle seçeneğini kullanabilirsiniz.
Chromium Tabanlı Masaüstü Tarayıcılar (Chrome, Edge, Brave vb.)
Yeni uygulamamızı kurmak için tarayıcı çubuğundaki kurulum tuşuna tıklayın. "Yükle" (Install) tuşuna basarak kurulumu tamamlayın. Dilerseniz, Evrim Ağacı İleri Web Uygulaması'nı görev çubuğunuza sabitleyin. Uygulama logosuna sağ tıklayıp, "Görev Çubuğuna Sabitle" seçeneğine tıklayabilirsiniz. Eğer bu seçenek gözükmüyorsa, tarayıcının Ayarlar/Seçenekler (⋮) ikonuna tıklayıp, Uygulamayı Yükle seçeneğini kullanabilirsiniz.
Safari Mobil Uygulama
Sırasıyla Paylaş -> Ana Ekrana Ekle -> Ekle tuşlarına basarak yeni mobil uygulamamızı kurabilirsiniz. Bu basamakları görmek için yukarıdaki videoyu izleyebilirsiniz.

Daha fazla bilgi almak için tıklayın