- Otonom silahlar
İnsan müdahalesi olmadan hedef seçimi ve hedef yok etme gibi kararları yapay zekanın verdiği silahlar; mektupta ve videoda özellikle "yapay zekaya sahip silahların ne zaman ateşleneceğinin ve kime ateşleneğinin yapay zeka tarafından belirlenmesi" olarak tanımlanıyor. Ayrıca, mektupta otonom silahların nükleer silahların aksine pahalı ve elde etmesi zor ham maddeye gerek duymayacak kadar seri üretime ve yaygınlığa elverişli olacağı, bu yüzden geleceğin kalaşnikofları olacak şekilde ucuz ve kolayca bulunur hale gelebilecekleri vurgulanıyor.
- Kamikaze dronu
Büyük insansız hava araçlarından farklı olarak daha çok kuadkopter benzeri bir yapı olan ve saldırıyı bir füzeyle değil, bir kamikaze dalışı yapıp hedef üzerinde patlayarak gerçekleştiren dron. Örneğin STM'nin ürettiği Kargu-2, hedefe kamikaze dalışıyla patlayarak saldırıyor ve raporlara göre Libya'da otonom olarak saldırı kararı verdiği iddia edilmişti.
- Sürü kabiliyeti (drone swarm)
Dronların birlikte çalışabilme yeteneği; videoda bundan sonraki evrimsel aşama olarak 15-20 dronun bir arada çalışarak hedefleri etkisiz hale getirebilmesi örneği veriliyor. Bu yetenek ortaya çıktıkça antidron sistemleri ve yapay zekaya sahip karşı önlemler geliştirilecek ve silahlanma yarışı hızlanacak.
- Kaçak/firari seçilim (kontrolsüz seçilim)
Videoda tavuskuşu kuyruğu örneğiyle açıklanan, kontrol edilmediği sürece birbirini besleyen ve giderek şiddetlenen evrimsel bir süreç. Popülasyondaki varyasyonlar ve tercihlerin sürmesi durumunda belirli özelliklerin (örneğin daha büyük kuyruklar) her nesilde sürekli seçilip pekişmesiyle ortaya çıkan ve sonuçta olağanüstü aşamalara ulaşabilen seçilim türü. Aynı mekanizma teknolojik silahlanma ve savunma yarışlarında da görülebilir; av ile avcı arasındaki hızlanma örneği bunun bir başka ifadesidir.
- Varyasyon
Popülasyon içinde belli bir özelliğin (örneğin kuyruk büyüklüğü) bireyler arasında gösterdiği çeşitlilik. Tavuskuşu örneğinde dişilerin tercihleriyle birlikte varyasyon üzerinde seçilim işlemiş ve uzun kuyruklu bireyler avantajlı hale gelmiştir.
- Mutasyon
Ebeveynlerimizden onlarca noktada meydana gelen değişiklikler; videoda bunun, her nesilde ebeveynlerden biraz farklı doğmamıza yol açan ve çeşitliliğin bir parçası olan rastlantısal genetik değişimler olarak anılıyor.
- Crossing-over
Çok sayıda genin karışmasıyla oluşan genetik çeşitlenme süreci; videoda "birçok genin crossing-over ile karılması ve dolayısıyla çeşitlilikle doğmamız" şeklinde, yavruların ebeveynlerinden farklı olmasına neden olan mekanizmalardan biri olarak anlatılıyor.
- Popülasyon
Aynı türün bir arada bulunduğu grup; videoda tavuskuşu örneğinde kuyruk uzunlukları arasındaki çeşitliliğin ve seçilimin işlendiği birimler olarak kullanılıyor.
- Makine öğrenmesi / yapay öğrenme
Sistemlerin verilerle eğitildiği yöntemler; videoda Kargu-2 gibi silahların otobüs, kamyon, tır, tank gibi farklı cihazlara ait görseller ve videolar kullanılarak eğitildiği, fakat veri seti hatalı veya eksikse bu cihazların yanlış şeyler öğrenebileceği şeklinde tanımlanıyor. Ayrıca makine öğrenmesinin sınırları ve test edilmesinin zorluğu vurgulanıyor.
- Veri seti
Makine öğrenmesi için kullanılan görseller, videolar ve diğer eğitim verileri; videoda veri setinin hatalı veya eksik olması durumunda yapay zekanın yanlış şeyler öğreneceği, chatbot ve işe alım algoritması örnekleriyle açıklanıyor.
- Kara kutu algoritmalar (black-box algoritmalar)
Makine öğrenmesi algoritmalarının büyük oranda iç işleyişinin anlaşılamadığı yapısı; videoda "bir taraftan veri giriyor, diğer taraftan bir sonuç çıkıyor ama arada ne olup bittiğini anlayamıyoruz, çünkü sistem çok karmaşık" şeklinde tanımlanıyor ve bu yüzden yanlış kararın nedenini sonradan çözemeyebileceğimiz vurgulanıyor.
- Makina görüşü (computer vision)
Görsel veriyi işleyip nesneleri sınıflandıran yapay zeka sistemleri; videoda makina görüşü sistemlerinin bir iPod etiketi ya da tek bir piksel değişikliğiyle yüksek güvenle yanlış sınıflandırma yapabildiği örnekleriyle açıklanıyor.
- Yapay zekanın kandırılabilirliği (adversarial örnekler)
Yapay zekâ sistemlerinin, giriş verilerindeki küçük veya kasıtlı değişikliklerle yanıltılabilmesi olgusu; videoda bir elmanın üzerine "iPod" yazılmış bir kağıt yapıştırıldığında sistemin onu %99.7 güvenle Apple ürünü sanması ve tek piksel değiştirerek bir bombardıman uçağını köpek zannetmek gibi örneklerle açıklanıyor. Bu nedenle hastane veya okul otobüsleri üzerine yazı yazılarak otonom dronların kandırılabileceği endişesi dile getiriliyor.
- Antidron sistemleri
Dronlara karşı geliştirilen savunma/karşı önlem sistemleri; videoda otonom dron sürülerine karşı mutlaka çıkarılacağı ve bu sistemlerin de yapay zekâya sahip olacağı, böylece silahlanma yarışının hızlanacağı belirtiliyor.
- Radar-antiradar sistemleri
Birinin diğerine karşı geliştirdiği karşı önlemler zinciri; videoda bombardıman uçağının antiradar teknolojisi geliştirmesiyle radar sistemlerinin buna karşılık evrilip yeni çözümler üretmesi örneğiyle, teknolojik silahlanma ve savunmanın birbirini hızla geliştirmesine yol açan döngü olarak anlatılıyor.
- Otonom araçlar
Yapay zeka ile kendi başına sürüş yapan araçlar; videoda Tesla örneğiyle insanların yapay zekâya güvendikçe önlemleri elden bırakıp beklenmedik kazalarla karşılaşmaları ve otonom araçların eğitilmediği durumlarda beklenmedik hatalar yapabileceği açıklanıyor.
- İnsansız hava araçları (İHA / drone)
İnsan taşıyan müstakil uçaklardan farklı olarak insan operatör taşımaz veya operatörün uzaktan kontrolüyle çalışabilen hava araçları; videoda birçok ülke tarafından geliştirilen ve kullanılan otonom/insansız hava araçları bağlamında geçmiş uygulamalar ve hedef seçimi araştırmaları ile birlikte anılıyor.
- Kitle imha silahları (KİS)
Videoda örnekler halinde sayılan ve büyük yıkıma yol açabilen silah türleri (kimyasal, biyolojik, nükleer gibi) ile birlikte anılan, şehirleri tehdit edebilecek ve otonom sistemlerle birleşince riskleri büyüyen silah kategorisi. Metinde, yapay zekayla kontrol edilen sistemlerin bu tür silahları taşıyıp kullanabileceği ve hataların sonuçlarının çok daha yıkıcı olacağı vurgulanıyor.
- Silah türleri ve muhtemel yüklemeler (örnekler)
Videoda dronların teorik olarak donatılabileceği çeşitli araçlar ve silahlar listeleniyor: silahlar, bombalar, füzeler, elektronik silah bozucular, lazerler, mikrodalga silahları, siber saldırı bilgisayarları, kimyasal silahlar, biyolojik silahlar, nükleer silahlar ve bunların kombinasyonları. Bu liste, dronların kötü ellerde nasıl kullanılabileceğini hayal etmemiz için veriliyor.