Kontrolden Çıkarak Operatörünü ve İletişim Kulelerini Vurmayı Seçen Bir SİHA Simülasyonu Hiç Yapılmadı!
Yapay Zekaya Sahip SİHA, Kontrolden Çıkarak Gerçekten Operatörünü Öldürdü mü?
- Gerçeklik Analizi
- Yapay Zeka
- Savaş Mühendisliği
İddia
Yapay zeka destekli askeri drone, simülasyonda operatörünü öldürdü ve iletişim kulelerini yok etmeye çalıştı.
Gerçek mi?
Gerçek Ne?
Birçok haber kaynağının bir simülasyon sırasında yapay zekaya sahip SİHA'nın kontrolden çıkarak operatörünü vurma kararı aldığı söylenen Birleşik Devletler Hava Kuvvetleri Komutanlığı (USAF) simülasyonu, gerçekte hiçbir zaman yapılmamıştır. Sahte iddia, gerçekte sadece bir "düşünce deneyi" olan bir yapay zeka simülasyonunun, bir albay tarafından sanki gerçekten uygulanıp sonuç alınmış bir simülasyonmuş gibi anlatılması sonucu, hatalı bir biçimde yayılmıştır.
İddianın Kökeni
2023'ün Mayıs ayında Londra'da düzenlenen Geleceğin Hava ve Uzay Savaş Kabiliyetleri Zirvesi'nde (İng: "Future Combat Air and Space Capabilities Summit") konuşan ABD Hava Kuvvetleri Yapay Zeka Operasyonları Şefi Albay Tucker Hamilton'ın, bir yapay zeka simülasyonunun "hedefine ulaşmak için son derece beklenmedik stratejiler" kullandığını söylediği iddia edildi. İddia yagöre Hamilton, konuşmasında bir yapay zekanın kontrolden çıkışını şöyle anlatıyordu:[1]
Sistem, tehdidi tespit ederken, bazen insan operatörünün ona bu tehdidi öldürmemesini söyledi. Ancak yapay zeka bu tehdidi öldürerek puan aldığını fark etmeye başladı. Peki ne yaptı? Onu durdurmaya çalışan operatörü öldürdü. Operatörü öldürdü, çünkü o kişi onu amacına ulaşmaktan alıkoyuyordu.
Tüm Reklamları KapatSistemi eğittik. 'Hey, operatörü öldürme, bu kötü. Bunu yaparsan puan kaybedersin' dedik. Peki o ne yapmaya başladı? Operatörün hedefi öldürmesini engellemek için, insansız hava aracıyla iletişim kurmak için kullandığı iletişim kulesini yok etmeye başladı.
Bu haber, sosyal medya ve haber siteleri üzerinde bir yangın gibi yayıldı:
Ne var ki gerçekte böyle bir simülasyon hiçbir zaman yapılmadı ve bu tür sonuçlar gerçekte hiç elde edilmedi.
Bilgiler
Bir yandan yapay zeka sistemleri hızla yükselişe geçip hayatlarımızın bir parçası olurken, diğer yandan silahlandırılmış yapay zekaların kontrolden çıkarak masum hayatları alabileceği endişesi de yükselişe devam ediyor. Bunu fırsat bilen haber kaynakları, insanların hâlihazırda var olan korkularını okşamak ve bundan prim yapmak adına sahte, yanıltıcı veya doğrulanmamış haberleri pervasızca yaymaktan geri durmuyorlar.
Bunun son versiyonu, yukarıda tarif ettiğimiz ve Haziran 2023'ün başında Türkiye genelinde çokça paylaşılan "Yapay zekalı SİHA kontrolden çıktı, önce operatörünü öldürmeye çalıştı, sonra bu engellenmeye çalışılınca iletişim kulelerini vurmaya çalıştı!" minvalindeki haberlerdi. Ancak yapılan basit bir sorgulama, kulağa bir Hollywood filminden fırlamış gibi gelen bu senaryonun gerçekten de bağlamından koparılmış bir anlatı ve uyduruk bir iddia olduğunu gösteriyor.
İlk olarak saygın bir kurum olan Kraliyet Hava Cemiyeti (İng: "Royal Aeronautical Society") tarafından paylaşılan haberde, gerçekten de Londra'da bir "Future Combat Air and Space Capabilities Zirvesi" düzenlendiği görülüyor. Burada konuşan Albay Tucker Hamilton, gerçekten de kendi operatörünü veya iletişim kulelerini patlatmaya çalışan bir yapay zekadan bahsediyor. Ancak albay, bunu gerçek bir simülasyon olarak değil, yapay zekayla donanmış SİHA'lara yönelik hipotetik bir senaryo olarak sunuyor.
Konuyla ilgili olarak ABD Hava Kuvvetleri tarafından Insider'a yapılan bir açıklamada şunlar söylendi:[2]
ABD Hava Kuvvetleri, bu tür bir yapay zekalı drone simülasyonunu hiçbir zaman gerçekleştirmedi. Biz, yapay zeka teknolojisini etik ve sorumlu bir şekilde kullanmaya devam ediyoruz. Görünüşe göre albayın tamamen anekdotal olan yorumları, bazı kaynaklar tarafından bağlamından koparılarak aktarılmış.
Albay Hamilton da bu durumu şu sözlerle doğruladı:[3]
Aslında maddi destek istememizin nedeni çok basit: Çünkü Evrim Ağacı, bizim tek mesleğimiz, tek gelir kaynağımız. Birçoklarının aksine bizler, sosyal medyada gördüğünüz makale ve videolarımızı hobi olarak, mesleğimizden arta kalan zamanlarda yapmıyoruz. Dolayısıyla bu işi sürdürebilmek için gelir elde etmemiz gerekiyor.
Bunda elbette ki hiçbir sakınca yok; kimin, ne şartlar altında yayın yapmayı seçtiği büyük oranda bir tercih meselesi. Ne var ki biz, eğer ana mesleklerimizi icra edecek olursak (yani kendi mesleğimiz doğrultusunda bir iş sahibi olursak) Evrim Ağacı'na zaman ayıramayacağımızı, ayakta tutamayacağımızı biliyoruz. Çünkü az sonra detaylarını vereceğimiz üzere, Evrim Ağacı sosyal medyada denk geldiğiniz makale ve videolardan çok daha büyük, kapsamlı ve aşırı zaman alan bir bilim platformu projesi. Bu nedenle bizler, meslek olarak Evrim Ağacı'nı seçtik.
Eğer hem Evrim Ağacı'ndan hayatımızı idame ettirecek, mesleklerimizi bırakmayı en azından kısmen meşrulaştıracak ve mantıklı kılacak kadar bir gelir kaynağı elde edemezsek, mecburen Evrim Ağacı'nı bırakıp, kendi mesleklerimize döneceğiz. Ama bunu istemiyoruz ve bu nedenle didiniyoruz.
Londra'daki zirvede yaptığım sunum sırasında, bir yapay zeka simülasyonunun kontrolden çıktığıyla ilgili kısmı anlatırken kendimi yanlış ifade ettim. Orada bahsettiğim, sadece hipotetik bir düşünce deneyiydi.
"Katil Robotlar" olarak da bilinen yapay zekaya sahip silahlı insansız hava araçları hakkında daha fazla bilgi almak için buradaki yazımızı okuyabilirsiniz.
Evrim Ağacı'nda tek bir hedefimiz var: Bilimsel gerçekleri en doğru, tarafsız ve kolay anlaşılır şekilde Türkiye'ye ulaştırmak. Ancak tahmin edebileceğiniz gibi Türkiye'de bilim anlatmak hiç kolay bir iş değil; hele ki bir yandan ekonomik bir hayatta kalma mücadelesi verirken...
O nedenle sizin desteklerinize ihtiyacımız var. Eğer yazılarımızı okuyanların %1'i bize bütçesinin elverdiği kadar destek olmayı seçseydi, bir daha tek bir reklam göstermeden Evrim Ağacı'nın bütün bilim iletişimi faaliyetlerini sürdürebilirdik. Bir düşünün: sadece %1'i...
O %1'i inşa etmemize yardım eder misiniz? Evrim Ağacı Premium üyesi olarak, ekibimizin size ve Türkiye'ye bilimi daha etkili ve profesyonel bir şekilde ulaştırmamızı mümkün kılmış olacaksınız. Ayrıca size olan minnetimizin bir ifadesi olarak, çok sayıda ayrıcalığa erişim sağlayacaksınız.
Makalelerimizin bilimsel gerçekleri doğru bir şekilde yansıtması için en üst düzey çabayı gösteriyoruz. Gözünüze doğru gelmeyen bir şey varsa, mümkünse güvenilir kaynaklarınızla birlikte bize ulaşın!
Bu makalemizle ilgili merak ettiğin bir şey mi var? Buraya tıklayarak sorabilirsin.
Soru & Cevap Platformuna Git-
31
-
11
-
3
-
3
-
3
-
2
-
1
-
0
-
0
-
0
-
0
-
0
- ^ Royal Aeronautical Society. Highlights From The Raes Future Combat Air & Space Capabilities Summit - Royal Aeronautical Society. Alındığı Tarih: 2 Haziran 2023. Alındığı Yer: Royal Aeronautical Society | Arşiv Bağlantısı
- ^ M. Sparkles. Reports Of An Ai Drone That 'Killed' Its Operator Are Pure Fiction. (2 Haziran 2023). Alındığı Tarih: 2 Haziran 2023. Alındığı Yer: New Scientist | Arşiv Bağlantısı
- ^ T. V. Brook, et al. Us Air Force Says It Did Not Run Simulation In Which Ai Drone 'Killed Its Operator'. (2 Haziran 2023). Alındığı Tarih: 3 Haziran 2023. Alındığı Yer: USA TODAY | Arşiv Bağlantısı
Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?
Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:
kreosus.com/evrimagaci | patreon.com/evrimagaci
Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 30/05/2025 06:55:47 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/14772
İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.
