Yapay zeka üzerine kurulu teknolojiler insan hayatını kökten değiştirmektedir. Bu makineler günlük hayatımızla gitgide bütünleştikçe, onların vereceği kararlar da sadece faydacı olmanın ötesine geçip ahlaki bir hâl alacaktır. Kaçınılmaz bir kaza ile karşı karşıya kaldığında, sürücüsüz bir araba yolcuları mı korumalıdır, yoksa toplamda kaybedilecek canları en aza indirgemenin yollarını mı aramalıdır? İnsansız bir hava aracı, sonucunda sivil kayıplar olsa bile, saldırı düzenleyen teröristleri vurmalı mıdır? Yapay zekaya sahip olan makineler bağımsız hale geldikçe, bu tür soruları göz ardı etmek imkansızlaşmaktadır.
Bazı ahlaki kararların neden bilgisayarlara bırakılması gerektiğine dair güçlü iddialar bulunmaktadır. İnsanlardan farklı olarak, makineler bilişsel önyargılar tarafından yanlış yönlendirilmezler, yorgunluk hissetmezler ve bir düşmana karşı nefret beslemezler. Etik bir yapay zeka, ilke olarak ideal bir ahlak temsilcisinin değerlerini ve kurallarını yansıtacak biçimde programlanabilir. İnsan kısıtlamalarından arınmış olan bu tür makinelerin, biz insanlardan daha iyi ahlaki kararlar verdiği bile söylenebilir. Ancak bir makinenin ahlaki karar verme sürecinde özgür bir şekilde hüküm süreceği fikri pek çok insanı tedirgin etmektedir. Öyle ki, kimisi için makinelerin kullanımı insan onuruna karşı önemli bir tehdit oluşturmaktadır. Peki, iş ahlaki kararlar vermeye gelince neden makinelere güvenmekten çekiniyoruz? Bir psikoloji araştırması bize şu ipucunu veriyor: Bilgisayarlar gibi fayda ve zararları hesaplayarak ahlaki kararlar veren bireylere karşı temel bir güvensizliğimiz var gibi görünüyor.
