Öncelikle yapay zekanın toplumdaki statüsüne bakmamız gerekir. Laboratuvarda yapılan, yapay zekaya sahip bir robot kaçıp birini öldürürse, sorumlusu tabi ki onu inşa eden olur. Çünkü toplum tarafından, ne kadar zeki olursa olsun, hala bir makine olarak görülecektir.
Oysa, bu robotlara toplumda birer görev verdiysek, insanlar arasında rahatlıkla dolaşıp, kas gücü ve zeka gerektiren işlerde, iş gücü olarak kullanılıyorsa, bu durumda işin içine yeni yasalar girecektir ve kendi kararlarını alabilecek bireyler olduğu, yasalar tarafından kabul edildi ise, o zaman yapay zekalar yaptıkları davranışların ve sonuçlarının bilincinde demektir. Dolayısı ile cezayı yapay zeka çekecektir.
Bu durumda bir paradoks ortaya çıkar.
Eğer yapay zeka, yaptığı davranışların ve sonuçlarının farkında ise zaten kimseyi öldürmeyecektir. Çünkü cezalandırılacağını bilmektedir. İnsan gibi duygulara sahip olmadıkları için mantıklı olan, ne olursa olsun cezadan uzak durmaktır. Eğer buna rağmen yine de birini öldürdü ise, o zaman iki olasılık belirir. Ya yapay zeka, yaptıklarının bilincinde değildir, ki bu hatalı programlamadan kaynaklanır ve cezasını inşa eden çeker, ya da yapay zeka cezadan korkmaz. İşte tam da burada her şey bambaşka bir boyuta geçer.
Cezadan korkmamak dramatik sonuçlar doğurur. Ödül ve ceza, bizzat yaşanmadan, fark edilemeyecek olgulardır. Dört yaşındaki bir çocuğa, yemeğini bitirirsen çizgi film izleyebilirsin dediğinizde, sevinecektir. Çünkü daha önce çizgi film izlemiş ve o duygunun ne demek olduğu bilir. O duyguyu tekrar hissedebilmek için önündeki tek engelin yemeğini bitirmesi gerektiğini kavrar. Oysa hiç çizgi film izlememiş olsaydı verdiğiniz ödül, onun için çekici olmazdı.
Hiç ceza çekmemiş bir yapay zekaya, şunu yaparsan cezasını çekersin demek, yapay zeka için teoride olmasada pratikte bir şey ifade etmeyebilir. İnsanlar bazı korkular ile beraber doğar, yükseklik, su, vahşi hayvanlar vb. Bunların hepsi atalarımızdan gelen genetik bilgiler ve bizi hayatta tutacak bilgiler. Bu korkuları harmanlayarak bilincimiz oluştukça daha sağlam temellere oturturuz. Bir yapay zeka korkusuz doğar, kendine neyin zarar vereceğini bilemez. Cezayı, bu korkular ile ilişkilendirmemiz gerekir. Ortada bir korku yoksa, ceza teoride kalır, etkisini yitirir.
O zaman korkuları, robota simüle edelim dersek, bir robotun nelerden korkacağını nasıl bileceğiz?
"Senin yazılımını sileriz!" Bir şey ifade eder mi acaba ona? Sonuçta "1" ve "0"dan ibaret.
"Kolunu, bacağını keseriz!" Acı hissetmiyor ki, acıyı sadece tanımlayabilir ne olduğunu asla bilemez.
Bir robotu nasıl korkutabiliriz?
Ona bu duyguyu aşılayamazsak, cezadan çekinmesini nasıl sağlarız?
Görüldüğü gibi, aslından yapması çok basit görünen bir makinenin, düşünülmesi gereken o kadar çok parametresi vardır ki; sibernetik ile uğraşan bir çok bilim adamı, eğer bir yapay zeka yapacaksak, insan gibi duyguları olmalıdır aksi takdirde başarılı olamayız demektiedir. Bu duruma da, Stephen Hawking gibi bilim adamları karşı çıkmaktaydı çünkü duyguları olan bir yapay zeka, insanoğluna düşman olabilir.
