Yapay Zekaya Sahip Silahlar (YZSS) İnsanlığın Sonunu Getirebilir Mi?

Yapay Zekaya Sahip Silahlar (YZSS) İnsanlığın Sonunu Getirebilir Mi?
Çağrı Mert Bakırcı Editör Çağrı Mert Bakırcı
5 dakika
1,494 Okunma Sayısı
Notlarım
Reklamı Kapat
Evrim Ağacı Akademi: Yapay Zeka Yazı Dizisi

Bu yazı, Yapay Zeka yazı dizisinin 9. yazısıdır. Bu yazı dizisini okumaya, serinin 1. yazısı olan "Yapay Zeka Hakkında Bir Rehber: Nedir, Ne Değildir, Ne Olacaktır?" başlıklı makalemizden başlamanızı öneririz.

Yazı dizisi içindeki ilerleyişinizi kaydetmek için veya kayıt olun.

EA Akademi Hakkında Bilgi Al

Daha önceden yayınladığımız "Otonom Silahlar: Yapay Zeka Araştırmacıları ve Robotikçilerden Açık Mektup" başlıklı yazımızda, sayısız bilim insanının yapay zekaya sahip otonom silahlarla ilgili endişelerine temel düzeyde bir giriş yapmıştık ve endişelerini onların ağzından aktarmıştık. Şimdiyse biraz daha detaya girmek ve bu endişelerin ne kadar yerinde olduğunu iki taraftan da görüşlere yer vererek incelemek istiyoruz. Umuyoruz faydalı olacaktır.

Yapay Zeka’nın, yani zeki makinelerin, sağlık sektöründe, mühendislikte, arama-kurtarmada ve daha pek çok alanda hayatımızı kolaylaştırıyor olması elbette sevindiricidir. Fakat böyle güçlü bir teknolojinin savunma sanayinde kullanımının gelecekte getirebileceği riskler, aralarında fizikçi Stephen Hawking, Tesla Motors Şirketi yöneticisi Elon Musk ve Apple Şirketi kurucu ortağı Steve Wozniak gibi yapay zeka araştırmacılarının, uzmanların ve düşünürlerin bulunduğu bir camiayı öylesine rahatsız etmiş olmalı ki bu grup “otonom silah sistemleri”nin, diğer bir deyişle, “Yapay Zekaya Sahip Silah Sistemleri”nin gelecekteki olası tehlikelerine dikkat çeken ve Birleşmiş Milletler’e hitaben yazılmış açık bir mektuba imza attı. Bu mektubu buradaki yazımızdan okuyabilirsiniz.

“Otonom silah” deyince ne anlamamız gerekiyor? 

Dışarıdan bir kişinin müdahalesine gerek duymayan ve önceden belirlenmiş kıstaslara haiz kişileri ya da hedefleri ‘kendi kendine’ belirleyip vurabilen, kısacası kendi kendini yönetebilen araçlara “otonom silahlar” deniyor. Bu tür silahlar, en basit haliyle, hali hazırda birkaç yerde kullanılıyor. Örneğin, Kuzey ve Güney Kore arasındaki askerden arındırılmış bir bölgede sabit olarak konuşlanmış bir otonom silah türü 2 mile kadar etrafta hareket eden herhangi bir kişiyi veya nesneyi kendi kendine hedef alıp vurabiliyor. Bir diğer örnek, İsrail’in kullandığı havada uzun süre kalarak radar sinyalleri saptayabilen ve bulduğu anda bu sinyalin kaynağını yok edebilen otonom füze. 

Reklamı Kapat

Neden bu kadar tepki alıyor?

Mayıs 2014’te BM’nin “Belirli Konvansiyonel Silahlar Sözleşmesi” çerçevesinde otonom silahlar üzerine yapılan tartışmaların ana ekseninde “ ‘anlamlı’ insan denetiminin olmayışı” yer alıyor. Bu da ister istemez “sorumluluk açığı”nı gündeme getiriyor. Peki ‘anlamlı’ denetim demekle neyi kastediyoruz? Daha açıklayıcı olmak için, şöyle bir şey düşünelim. Terörist bir grubun bir okula sinyal yayan bir radar sistemi yerleştirmiş olduğunu ve yukarıda bahsettiğimiz örnekteki gibi radar sinyalinin peşine düşen otonom bir füzenin, bu okuldan gelen radar sinyalini saptadığını ve onu vurduğunu hayal edin. Eğer bu füzenin ‘anlamlı’ denetime sahip bir kullanıcısı olsaydı, bu kullanıcı okulu vurmanın insancıl olmayacağına ya da savaş mevzuatına aykırı olacağına karar verip bu eylemi gerçekleştirmezdi. Örneğimizdeki duruma dönersek, eylem halindeyken kullandığı silahı etkin bir şekilde denetleyen ve yöneten bir kullanıcının yokluğunda ya da gerçekleşen eylemin kanunlara uygun olup olmadığına karar veren bir kişinin yokluğunda, sorumluluk kime ait olacaktır? İşte, otonom (kendi kendini yönetebilen) silahların, birincil olarak, sorumluluk kıstasını yerine getiremeyecek olması yukarıda bahsettiğimiz mektupta neden bu tür silahlara yasak getirilmesi gerektiği fikrinin ardında yatan endişelerden sadece biri.

İkinci bir endişe, otonom silahların yasal olarak kullanımına izin verilirse herhangi büyük askeri bir gücün YZS silahları geliştirmede öne geçtiği takdirde, gelecekte küresel silahlanma yarışının tırmanacağı endişesi. Diğer bir kaygı ise, ucuz ve toplu üretime müsait oluşundan dolayı bu tür silahların bir süre sonra kara borsaya düşerek terörist grupların ya da diktatörlerin eline geçebileceği ve böyle olduğunda soykırım veya suikastlar gibi toplu ölümlerin yaşanabileceği korkusu. İşte bu sebeplerle mektupta, gelecekte ortaya çıkabilecek tüm bu olası tehlikelerden dolayı Yapay Zekaya Sahip Silah (YZSS) geliştirme yarışının daha başlamadan bitmek zorunda olduğunun altı çiziliyor.

Endişe yersiz olabilir mi?

YZ’nın gerçekten bir gün kendi kararlarını kendisinin verebilme potansiyeline kavuşacağına, bir bilince sahip olacağına ve insanlardan daha zeki hale geleceğine inanılıyor. Tüm bunların yanında YZ’nın duygulara da sahip olabileceğine inanan ünlü teorik fizikçi Lawrence Krauss, YZS robotların insanlık için bir tehdit unsuru olmayabileceğini, hatta YZ ve insanlar arasında bir “ortaklık” oluşabileceğini söyleyerek ortaya daha iyimser bir tablo koyuyor. “Karar verme” mekanizmasının insanlarda “sezgi”, “kişilerarası iletişim” ve “mantıklı düşünme” boyutunda ilerlediğini, makinelerin ise duygusal boyutta bizim kadar ileri olamayacaklarını düşünmeye eğilimli oluşumuzdan dolayı YZ’nın sağlıklı karar veremeyeceğine dair korkularımızın olduğunu söylüyor. Oysa Krauss’a göre her şeyi çok hızlı bir şekilde öğrenebilen YZ, “mutlu, üzgün ya da yardımsever” olmayı neden öğrenemesin? Niçin insanlarla “empati” kuramasın? Bu durumda, şiddetli düşmanlıklar söz konusu olduğunda bile, Krauss’un ifadesiyle, “bir makinenin vermiş olduğu bir karar, bir insanın vereceği karardan daha kötü olmayı gerektirmez.” Ve dolayısıyla, makine illa ki insanın aleyhinde karar vermek zorunda değil. 

YZ teknolojisinin insanlık için zarardan çok fayda getirebileceği inancını taşıdığından Krauss, bu alandaki araştırmaların önünün kesilmemesi gerektiğini de şu sözlerle ifade ediyor: 

“Düşünen/karar verebilen/öz-bilince sahip geleceğin makineleri konusundaki endişelerin çoğuna katılmıyorum. Hatta, hem insanoğlunun koşullarını iyileştirmede sunacağı fırsatlar hem de bilincin doğasına dair tutacağı ışık bakımından, düşünen makineleri deneyimleme ihtimali beni gerçekten çok heyecanlandırıyor.”

Evrim Ağacı'ndan Mesaj

Ayrıca yazımızın başında bahsettiğimiz özelliklerinden dolayı YZS silahların, hem ‘insan’ asker zayiatını azaltması bakımından hem de YZS silah geliştirilirken bu yöndeki araştırmaların YZ alanına yapacağı katkılar ve dolayısıyla insanlığa sunacağı potansiyeller bakımından bazı çevrelerce savunulduğunu da belirtmek isteriz.

Sonuç

Burada görülmesi gereken en kritik nokta, Yapay Zeka'ya karşı olmak ile "Yapay Zeka ile Çalışan Otonom Silahlara" karşı olmanın aynı şey olmadığıdır. Tıpkı Genetiği Değiştirilmiş Organizmalar (GDO), aşılar veya evrimsel biyoloji konusundaki karşıtlığın çok büyük oranda cehaletten besleniyor olması gibi, Evrim Ağacı olarak Yapay Zeka karşıtlığı başlığı altında yükselmesinden endişe ettiğimiz kitle, muhtemelen yine cehaletten beslenen bir akım olacak. Bunun önüne daha başından geçilmesi gerektiği kanısındayız. Yapay Zeka'nın silahlara adapte edilmesinden endişe ederek Yapay Zeka'nın önüne geçmeye çalışmak, atom bombası da yapılır endişesiyle atomu parçalamaktan uzak durarak radyoloji ve radyografi gibi çok kritik bilimleri yok etmeye benzer. Düzeltilmesi gereken insanların zihinleri, devletlerin politikaları, savaş algısı, vb. fenalıklardır. Bilimsel araştırmanın sınırları değil!

Otonom silahlar elbette insanlığın geleceği için çok riskli silahlardır ve daha şimdiden önüne geçmek kritik bir öneme sahiptir. Bu nedenle yapılan girişimleri destekliyoruz. Ancak bunların cahil medya ve bilgisiz halk tarafından abartılarak koca bir bilimsel alana genişletilmesi, yapacağımız en büyük hatalardan biridir. Bunun önüne geçmek, insanları aydınlatmak ve bilgilendirmek bilimseverlerin ortak görevidir. Yapay Zeka geleceğin en güçlü teknolojisi olacaktır, şu anda rakipsiz gözükmektedir. Dolayısıyla bu konuda çalışan bilim insanlarının önünü açmak, onları özgürleştirmek, onların yaptığı çalışmaları takip etmek, onları anlamaya çalışmak, şu etapta atılabilecek en sağlıklı adımlardır. Elbette bunu yaparken, yolda karşılaşılan olası tehlikelere karşı önlem almak da işlevsel ve yerindedir. Burada yapılanın da bu olduğu anlaşılmalıdır.

Okundu Olarak İşaretle
Bu İçerik Size Ne Hissettirdi?
  • Tebrikler! 5
  • Umut Verici! 2
  • Muhteşem! 0
  • Bilim Budur! 0
  • Mmm... Çok sapyoseksüel! 0
  • Güldürdü 0
  • İnanılmaz 0
  • Merak Uyandırıcı! 0
  • Üzücü! 0
  • Grrr... *@$# 0
  • İğrenç! 0
  • Korkutucu! 0
Kaynaklar ve İleri Okuma
Evrim Ağacı Akademi: Yapay Zeka Yazı Dizisi

Bu yazı, Yapay Zeka yazı dizisinin 9. yazısıdır. Bu yazı dizisini okumaya, serinin 1. yazısı olan "Yapay Zeka Hakkında Bir Rehber: Nedir, Ne Değildir, Ne Olacaktır?" başlıklı makalemizden başlamanızı öneririz.

Yazı dizisi içindeki ilerleyişinizi kaydetmek için veya kayıt olun.

EA Akademi Hakkında Bilgi Al

Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?

Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:

kreosus.com/evrimagaci | patreon.com/evrimagaci

Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 04/12/2021 08:22:21 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/3817

İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.

Reklamı Kapat
Size Özel
İçerikler
Instagram
Sperm
Kanser Tedavisi
Filogenetik
Protein
Alzheimer
Sağlık Bakanlığı
Radyasyon
Cinsiyet Araştırmaları
Gen
Film
Salgın
Fotosentez
Gaz
Organ
Yatay Gen Transferi
Kuyruksuz Maymun
Manyetik Alan
Moleküler Biyoloji
Viral
Zeka
Sinirbilim
Risk
Bitkiler
Fosil
Egzersiz
Daha Fazla İçerik Göster
Evrim Ağacı'na Destek Ol
Evrim Ağacı'nın %100 okur destekli bir bilim platformu olduğunu biliyor muydunuz? Evrim Ağacı'nın maddi destekçileri arasına katılarak Türkiye'de bilimin yayılmasına güç katmak için hemen buraya tıklayın.
Popüler Yazılar
30 gün
90 gün
1 yıl
EA Akademi
Evrim Ağacı Akademi (ya da kısaca EA Akademi), 2010 yılından beri ürettiğimiz makalelerden oluşan ve kendi kendinizi bilimin çeşitli dallarında eğitebileceğiniz bir çevirim içi eğitim girişimi! Evrim Ağacı Akademi'yi buraya tıklayarak görebilirsiniz. Daha fazla bilgi için buraya tıklayın.
Etkinlik & İlan
Bilim ile ilgili bir etkinlik mi düzenliyorsunuz? Yoksa bilim insanlarını veya bilimseverleri ilgilendiren bir iş, staj, çalıştay, makale çağrısı vb. bir duyurunuz mu var? Etkinlik & İlan Platformumuzda paylaşın, milyonlarca bilimsevere ulaşsın.
Podcast
Evrim Ağacı'nın birçok içeriğinin profesyonel ses sanatçıları tarafından seslendirildiğini biliyor muydunuz? Bunların hepsini Podcast Platformumuzda dinleyebilirsiniz. Ayrıca Spotify, iTunes, Google Podcast ve YouTube bağlantılarını da bir arada bulabilirsiniz.
Yazı Geçmişi
Okuma Geçmişi
Notlarım
İlerleme Durumunu Güncelle
Okudum
Sonra Oku
Not Ekle
Kaldığım Yeri İşaretle
Göz Attım

Evrim Ağacı tarafından otomatik olarak takip edilen işlemleri istediğin zaman durdurabilirsin.
[Site ayalarına git...]

Filtrele
Listele
Bu yazıdaki hareketlerin
Devamını Göster
Filtrele
Listele
Tüm Okuma Geçmişin
Devamını Göster
0/10000

Göster

Şifremi unuttum Üyelik Aktivasyonu

Göster

Şifrenizi mi unuttunuz? Lütfen e-posta adresinizi giriniz. E-posta adresinize şifrenizi sıfırlamak için bir bağlantı gönderilecektir.

Geri dön

Eğer aktivasyon kodunu almadıysanız lütfen e-posta adresinizi giriniz. Üyeliğinizi aktive etmek için e-posta adresinize bir bağlantı gönderilecektir.

Geri dön

Close
Geri Bildirim Gönder
Reklamsız Deneyim

Evrim Ağacı'nın çalışmalarına Kreosus, Patreon veya YouTube üzerinden maddi destekte bulunarak hem Türkiye'de bilim anlatıcılığının gelişmesine katkı sağlayabilirsiniz, hem de site ve uygulamamızı reklamsız olarak deneyimleyebilirsiniz. Reklamsız deneyim, Evrim Ağacı'nda çeşitli kısımlarda gösterilen Google reklamlarını ve destek çağrılarını görmediğiniz, daha temiz bir site deneyimi sunmaktadır.

Kreosus

Kreosus'ta her 10₺'lik destek, 1 aylık reklamsız deneyime karşılık geliyor. Bu sayede, tek seferlik destekçilerimiz de, aylık destekçilerimiz de toplam destekleriyle doğru orantılı bir süre boyunca reklamsız deneyim elde edebiliyorlar.

Kreosus destekçilerimizin reklamsız deneyimi, destek olmaya başladıkları anda devreye girmektedir ve ek bir işleme gerek yoktur.

Patreon

Patreon destekçilerimiz, destek miktarından bağımsız olarak, Evrim Ağacı'na destek oldukları süre boyunca reklamsız deneyime erişmeyi sürdürebiliyorlar.

Patreon destekçilerimizin Patreon ile ilişkili e-posta hesapları, Evrim Ağacı'ndaki üyelik e-postaları ile birebir aynı olmalıdır. Patreon destekçilerimizin reklamsız deneyiminin devreye girmesi 24 saat alabilmektedir.

YouTube

YouTube destekçilerimizin hepsi otomatik olarak reklamsız deneyime şimdilik erişemiyorlar ve şu anda, YouTube üzerinden her destek seviyesine reklamsız deneyim ayrıcalığını sunamamaktayız. YouTube Destek Sistemi üzerinde sunulan farklı seviyelerin açıklamalarını okuyarak, hangi ayrıcalıklara erişebileceğinizi öğrenebilirsiniz.

Eğer seçtiğiniz seviye reklamsız deneyim ayrıcalığı sunuyorsa, destek olduktan sonra YouTube tarafından gösterilecek olan bağlantıdaki formu doldurarak reklamsız deneyime erişebilirsiniz. YouTube destekçilerimizin reklamsız deneyiminin devreye girmesi, formu doldurduktan sonra 24-72 saat alabilmektedir.

Diğer Platformlar

Bu 3 platform haricinde destek olan destekçilerimize ne yazık ki reklamsız deneyim ayrıcalığını sunamamaktayız. Destekleriniz sayesinde sistemlerimizi geliştirmeyi sürdürüyoruz ve umuyoruz bu ayrıcalıkları zamanla genişletebileceğiz.

Giriş yapmayı unutmayın!

Reklamsız deneyim için, maddi desteğiniz ile ilişkilendirilmiş olan Evrim Ağacı hesabınıza üye girişi yapmanız gerekmektedir. Giriş yapmadığınız takdirde reklamları görmeye devam edeceksinizdir.

Destek Ol
Sizi Takip Ediyor

Devamını Oku
Evrim Ağacı Uygulamasını
İndir
Chromium Tabanlı Mobil Tarayıcılar (Chrome, Edge, Brave vb.)
İlk birkaç girişinizde zaten tarayıcınız size uygulamamızı indirmeyi önerecek. Önerideki tuşa tıklayarak uygulamamızı kurabilirsiniz. Bu öneriyi, yukarıdaki videoda görebilirsiniz. Eğer bu öneri artık gözükmüyorsa, Ayarlar/Seçenekler (⋮) ikonuna tıklayıp, Uygulamayı Yükle seçeneğini kullanabilirsiniz.
Chromium Tabanlı Masaüstü Tarayıcılar (Chrome, Edge, Brave vb.)
Yeni uygulamamızı kurmak için tarayıcı çubuğundaki kurulum tuşuna tıklayın. "Yükle" (Install) tuşuna basarak kurulumu tamamlayın. Dilerseniz, Evrim Ağacı İleri Web Uygulaması'nı görev çubuğunuza sabitleyin. Uygulama logosuna sağ tıklayıp, "Görev Çubuğuna Sabitle" seçeneğine tıklayabilirsiniz. Eğer bu seçenek gözükmüyorsa, tarayıcının Ayarlar/Seçenekler (⋮) ikonuna tıklayıp, Uygulamayı Yükle seçeneğini kullanabilirsiniz.
Safari Mobil Uygulama
Sırasıyla Paylaş -> Ana Ekrana Ekle -> Ekle tuşlarına basarak yeni mobil uygulamamızı kurabilirsiniz. Bu basamakları görmek için yukarıdaki videoyu izleyebilirsiniz.

Daha fazla bilgi almak için tıklayın

Önizleme
Görseli Kaydet
Sıfırla
Vazgeç
Bu Eseri Neden Tavsiye Ediyorsun?
Aşağıdaki kutuya, isimli neden tavsiye ettiğini girebilirsin. Ne kadar detaylı ve kapsamlı bir analiz yaparsan, bu eseri [OKUMAK/İZLEMEK] isteyenleri o kadar doğru ve fazla bilgilendirmiş olacaksın. Tavsiyenin faydalı bulunması halinde Evrim Ağacı kullanıcılarından daha fazla UP kazanman [UP bilgi linki] mümkün olacak. Tavsiyenin sadece negatif içerikte olamayacağını, eğer bu sistemi kullanıyorsan tavsiye ettiğin içeriğin pozitif taraflarından bahsetmek zorunda olduğunu lütfen unutma. Yapıcı eleştiri hakkında daha fazla bilgi almak için burayı okuyabilirsin.
Tavsiye Et