Kontrolden Çıkarak Operatörünü ve İletişim Kulelerini Vurmayı Seçen Bir SİHA Simülasyonu Hiç Yapılmadı!
Yapay Zekaya Sahip SİHA, Kontrolden Çıkarak Gerçekten Operatörünü Öldürdü mü?
- Gerçeklik Analizi
- Yapay Zeka
- Savaş Mühendisliği
İddia
Yapay zeka destekli askeri drone, simülasyonda operatörünü öldürdü ve iletişim kulelerini yok etmeye çalıştı.
Gerçek mi?
Gerçek Ne?
Birçok haber kaynağının bir simülasyon sırasında yapay zekaya sahip SİHA'nın kontrolden çıkarak operatörünü vurma kararı aldığı söylenen Birleşik Devletler Hava Kuvvetleri Komutanlığı (USAF) simülasyonu, gerçekte hiçbir zaman yapılmamıştır. Sahte iddia, gerçekte sadece bir "düşünce deneyi" olan bir yapay zeka simülasyonunun, bir albay tarafından sanki gerçekten uygulanıp sonuç alınmış bir simülasyonmuş gibi anlatılması sonucu, hatalı bir biçimde yayılmıştır.
İddianın Kökeni
2023'ün Mayıs ayında Londra'da düzenlenen Geleceğin Hava ve Uzay Savaş Kabiliyetleri Zirvesi'nde (İng: "Future Combat Air and Space Capabilities Summit") konuşan ABD Hava Kuvvetleri Yapay Zeka Operasyonları Şefi Albay Tucker Hamilton'ın, bir yapay zeka simülasyonunun "hedefine ulaşmak için son derece beklenmedik stratejiler" kullandığını söylediği iddia edildi. İddia yagöre Hamilton, konuşmasında bir yapay zekanın kontrolden çıkışını şöyle anlatıyordu:[1]
Sistem, tehdidi tespit ederken, bazen insan operatörünün ona bu tehdidi öldürmemesini söyledi. Ancak yapay zeka bu tehdidi öldürerek puan aldığını fark etmeye başladı. Peki ne yaptı? Onu durdurmaya çalışan operatörü öldürdü. Operatörü öldürdü, çünkü o kişi onu amacına ulaşmaktan alıkoyuyordu.
Tüm Reklamları KapatSistemi eğittik. 'Hey, operatörü öldürme, bu kötü. Bunu yaparsan puan kaybedersin' dedik. Peki o ne yapmaya başladı? Operatörün hedefi öldürmesini engellemek için, insansız hava aracıyla iletişim kurmak için kullandığı iletişim kulesini yok etmeye başladı.
Bu haber, sosyal medya ve haber siteleri üzerinde bir yangın gibi yayıldı:
Ne var ki gerçekte böyle bir simülasyon hiçbir zaman yapılmadı ve bu tür sonuçlar gerçekte hiç elde edilmedi.
Bilgiler
Bir yandan yapay zeka sistemleri hızla yükselişe geçip hayatlarımızın bir parçası olurken, diğer yandan silahlandırılmış yapay zekaların kontrolden çıkarak masum hayatları alabileceği endişesi de yükselişe devam ediyor. Bunu fırsat bilen haber kaynakları, insanların hâlihazırda var olan korkularını okşamak ve bundan prim yapmak adına sahte, yanıltıcı veya doğrulanmamış haberleri pervasızca yaymaktan geri durmuyorlar.
Bunun son versiyonu, yukarıda tarif ettiğimiz ve Haziran 2023'ün başında Türkiye genelinde çokça paylaşılan "Yapay zekalı SİHA kontrolden çıktı, önce operatörünü öldürmeye çalıştı, sonra bu engellenmeye çalışılınca iletişim kulelerini vurmaya çalıştı!" minvalindeki haberlerdi. Ancak yapılan basit bir sorgulama, kulağa bir Hollywood filminden fırlamış gibi gelen bu senaryonun gerçekten de bağlamından koparılmış bir anlatı ve uyduruk bir iddia olduğunu gösteriyor.
İlk olarak saygın bir kurum olan Kraliyet Hava Cemiyeti (İng: "Royal Aeronautical Society") tarafından paylaşılan haberde, gerçekten de Londra'da bir "Future Combat Air and Space Capabilities Zirvesi" düzenlendiği görülüyor. Burada konuşan Albay Tucker Hamilton, gerçekten de kendi operatörünü veya iletişim kulelerini patlatmaya çalışan bir yapay zekadan bahsediyor. Ancak albay, bunu gerçek bir simülasyon olarak değil, yapay zekayla donanmış SİHA'lara yönelik hipotetik bir senaryo olarak sunuyor.
Konuyla ilgili olarak ABD Hava Kuvvetleri tarafından Insider'a yapılan bir açıklamada şunlar söylendi:[2]
ABD Hava Kuvvetleri, bu tür bir yapay zekalı drone simülasyonunu hiçbir zaman gerçekleştirmedi. Biz, yapay zeka teknolojisini etik ve sorumlu bir şekilde kullanmaya devam ediyoruz. Görünüşe göre albayın tamamen anekdotal olan yorumları, bazı kaynaklar tarafından bağlamından koparılarak aktarılmış.
Albay Hamilton da bu durumu şu sözlerle doğruladı:[3]
Londra'daki zirvede yaptığım sunum sırasında, bir yapay zeka simülasyonunun kontrolden çıktığıyla ilgili kısmı anlatırken kendimi yanlış ifade ettim. Orada bahsettiğim, sadece hipotetik bir düşünce deneyiydi.
"Katil Robotlar" olarak da bilinen yapay zekaya sahip silahlı insansız hava araçları hakkında daha fazla bilgi almak için buradaki yazımızı okuyabilirsiniz.
İçeriklerimizin bilimsel gerçekleri doğru bir şekilde yansıtması için en üst düzey çabayı gösteriyoruz. Gözünüze doğru gelmeyen bir şey varsa, mümkünse güvenilir kaynaklarınızla birlikte bize ulaşın!
Bu içeriğimizle ilgili bir sorunuz mu var? Buraya tıklayarak sorabilirsiniz.
Soru & Cevap Platformuna Git-
30
-
11
-
3
-
3
-
3
-
2
-
1
-
0
-
0
-
0
-
0
-
0
- ^ Royal Aeronautical Society. Highlights From The Raes Future Combat Air & Space Capabilities Summit - Royal Aeronautical Society. Alındığı Tarih: 2 Haziran 2023. Alındığı Yer: Royal Aeronautical Society | Arşiv Bağlantısı
- ^ M. Sparkles. Reports Of An Ai Drone That 'Killed' Its Operator Are Pure Fiction. (2 Haziran 2023). Alındığı Tarih: 2 Haziran 2023. Alındığı Yer: New Scientist | Arşiv Bağlantısı
- ^ T. V. Brook, et al. Us Air Force Says It Did Not Run Simulation In Which Ai Drone 'Killed Its Operator'. (2 Haziran 2023). Alındığı Tarih: 3 Haziran 2023. Alındığı Yer: USA TODAY | Arşiv Bağlantısı
Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?
Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:
kreosus.com/evrimagaci | patreon.com/evrimagaci
Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 26/04/2024 23:40:48 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/14772
İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.
