Sürücüsüz Araç, Gerektiğinde En Az İnsan Kaybına Yol Açmak İçin Kendi Yolcularını Feda Etmeli mi?

Sürücüsüz bir araçta olduğunuzu hayal edin. Köşeyi döndüğünüzde kendinizi iki tarafı duvarla çevrili bir yolda, önünüzdeki on kişilik gruba çarpmak üzere buluyorsunuz. Çarpmayı engellemenin bir yolu yok. Araba, grubu kurtarmak uğruna yoldan çıkıp duvara çarparak sizi, tek yolcusunu, ciddi şekilde yaralamalı ya da öldürmeli mi? Yoksa sizi kurtarmak uğruna, gruba çarpacağını bile bile var gücüyle durmaya mı çalışmalı?

Bu etik ve ahlaki ikilemi, Arxiv’de yayınlanan yeni bir makalede Touluse Ekonomi Üniversitesinden Jean-Francois Bonnefon öncülüğünde bir grup araştırmacı tartıştı. Bu makalede araştırmacılar, sürücüsüz arabaların kullanımının artmasıyla bunun gibi kazaların kaçınılmaz olduğunu vurgularken; arabaların bu gibi durumlarda ne yapmaya programlandığının, teknolojinin halk tarafından benimsenmesinde büyük bir rol oynayacağının altını çizdiler. Ve şunu eklediler: “Otonom araçların, bu gibi ikilemlerle karşılaştığında doğru seçim yapmasını sağlayacak algoritmaları belirlemek zorlu bir görevdir. Bu araçların ve kaçınılmaz kazaların söz konusu olduğu durumlarda, üreticilerin ve düzenleyicilerin deneysel etik yöntemleri uygulamak için psikologlara ihtiyacı olacağını savunuyoruz.” 

Çalışmalarında, araştırmacılar Amazon’un Mechanical Turk adlı çevrim içi kitle bazlı soru-cevap aracından yüzlerce insana anket yaptılar. Katılanlara, daha önce bahsedilen duruma ek olarak arabanın içindeki ve dışarıdaki insan sayısını, arabadaki insanların yaşlarını değiştirerek (çocukların olduğu) birkaç senaryo sundular.

Sonuçlar, pek de şaşırtıcı olmadı: genelde, insanlar diğerlerini kurtarmak için arabadakileri feda etmeye razılardı. Ama bu insanların çoğu eğer kendisi arabada değilse buna razıydı. Cevap verenlerin %75’i yoldan çıkmanın ahlaki bir davranış olduğunu düşünse de sadece %65’i arabanın gerçekten yoldan çıkmak için programlanması gerektiğini düşünüyordu.

Araştırmacılar, -50 (ne olursa olsun sürücüyü koru) ile +50 (kurtarılan hayat sayısını mümkün olduğu kadar yükselt) arasında değerlendirme yapılan ölçekte ortalama yanıtın +24 olduğunu ve sonuçların, genellikle katılanların kazadaki ölü sayısını en aza indirmeye programlanmış, yararcı davranan otonom araçlardan memnun olduğunu gösterdiğini yazdılar. 

Yine de bu durumla ilgili yasal çerçeveler muallakta. Arabanın, en az sayıda insan kaybı için mantıkla hareket etmesini ve gerektiğinde yoldan çıkmasını şart koşacak yeni yasalar çıkacak mı? Yoksa arabaların farklı seviyelerde ahlaki değerlere sahip olmasına izin verilecek mi? Araştırmacılar şunu soruyor: “Eğer üretici; arabanın ahlaki algoritmasını farklı versiyonlarda sunarsa ve alıcı bilerek birini seçerse, algoritmanın seçiminin zararlı sonuçlarından dolayı alıcı suçlanabilir mi?” 

MIT Technology Review, sürücüsüz arabaların doğaları gereği insan sürücülerden daha güvenli olduğunu ve belki de bu durumun kendi içinde yeni bir ikilem yaratabileceğini ifade ettikleri gibi, makalelerinde de şöyle yazdılar: “Eğer sürücüsüz arabalar sahibini feda etmeye programlandığı için daha az insan sürücüsüz araba satın alırsa, sıradan arabaların kazaya sebep olma ihtimali daha fazla olduğundan, insan kaybı artacaktır. Bu durum bir paradoks (Catch-22) yaratıyor.” 

Şüphesiz ki; sürücüsüz araba, geleceğin toplu taşıma sistemi için mantıklı bir seçenek ve seyahat konusunda dünya çapında kökten bir değişim vadediyor. Ama bu araştırmanın da vurguladığı gibi, hala çözülmesi gereken önemli sorunlar var. Araştırmacılar bunu şu şekilde dile getirdi: 

Etik otonom makinelerin nasıl oluşturulacağı sorunu, günümüzde yapay zekâ çalışmalarındaki en zorlu sorunlardan biri. Milyonlarca aracı otonom yapmak üzereyken algoritmik ahlaklılığı ciddiye almak hiç bu kadar önemli olmamıştı.