Robotlara Merhamet Yok: Deney, İnsanların Robotlarla Nasıl İlişki Kurduğunu Test Ediyor!

2007 yılında, Yeni Zelanda / Canterbury University’de robotik profesörü olan Christoph Bartneck, meşhur (ve adı çıkmış) Milgram boyun eğme araştırmasıyla az çok ilişkili olan bir deney gerçekleştirme kararı aldı.

Milgram’ın araştırmasında, araştırma deneklerinden bir başka odada, “öğrenci” sıfatında bulunan ve gönüllü rolü oynayan kişilere giderek artan güçlü elektrik şokları vermeleri istendi. Denekler bir soru sorardı ve öğrencileri ne zaman hata yapsa, bir öncekinden daha yüksek derecede elektrik vermek durumundalardı. 

Deney devam ettikçe ve şokların da yoğunluğu arttıkça “öğrenciler” belirgin bir biçimde acı çekmeye başladılar. Öğrenciler, çığlık atar ve araştırma deneklerine durmaları adına yalvarırlardı. Buna karşın beyaz bir laboratuvar önlüğü giymiş bir “bilim insanı”, deneklere devam etmelerini söylerdi.

Deneyin videolarında bazı deneklerin nasıl davranacakları konusunda karar veremediklerini görebilirsiniz. Denekler, kendilerine söylendiği gibi deneyi bitirmek istediler; fakat bir soru cevapsız kalıyordu. Bu dayanılmaz merhamet ağlamalarına nasıl cevap veriliyor?

Bartneck insan-robot ilişkilerini araştıran biri ve “öğrenciye” benzer bir pozisyonda bir robot olsaydı ne olacağını öğrenmek istedi. Vicdana bağlı bir durma gerçekleşir miydi? Ya da denekler düşünmeden ya da pişmanlık duymadan canı için yalvaran bir robotu yok ederler miydi?

Makinelere Sosyal Birer Bireymiş Gibi Davranmak

Bir çok insan makine-insan ilişkilerini araştırdı ve biz insanlar, farkında olmadan etrafımızdaki makinelere sosyal bir bireymiş gibi davrandığımızı kavradığımız bir noktadayız.

Stanford’da bir profesör olan Clifford Nass’ın çalışmalarını ele alalım. 1996 yılında bu profesör, mütekabiliyet (karşılıklılık) kuralını insanların makinelerde gözlemleyebilip gözlemleyemeyeceğini araştırmak adına bir dizi deney ayarladı. Nass:

Her kültür mütekabiliyet kuralına sahiptir. Mütekabiliyet kuralı, basit anlamda 'Eğer ben senin için iyi bir şey yaparsam, sen de benim için iyi bir şey yaparsın’a karşılık gelir. İnsanların bu kuralı teknolojiye uyarlayıp uyarlamayacağını denemek istedik. İnsanlar, kendisine faydası dokunmayan bir bilgisayara kendisine faydası dokunan bir bilgisayar kadar yardım ederler mi?

Sonra, bir dizi insanı 2 bilgisayar bulunan bir odaya koydular ve bu kişilere, karşılarındaki bilgisayarın sorabilecekleri bütün soruların cevabını bileceğini söylediler. Deneylerin yarısında bilgisayar müthiş derecede iyiydi. Diğer yarısında ise bilgisayar berbat bir iş çıkardı.

20 dakikalık bir sorgulama kısmından sonra bilgisayarda, bilgisayarın kendi performansını arttırmaya çabaladığına dair bilgi veren bir ekran belirdi. Ardından insanlara bilgisayar için renk eşleştirmek gibi sıkıcı işler verildi. Şöyle bir durum var: İlgili görüntü bazen insanın kullanmakta olduğu monitörde belirirdi; bazen de odanın bir diğer tarafındaki ekranda belirirdi. Nass şöyle diyor:

Eğer bunlar insan olsalardı (bilgisayar olmasalardı), şuna benzer bir şey beklerdik: Sana yardım etseydim ve arkasından senden yardım isteseydim, büyük olasılıkla bana yardım etme zorunluluğunun olduğunu düşünürdün. Fakat sana yardım ettikten sonra senden bir başkası yardım isteseydi, yardım etme zorunluluğun daha az olurdu.

Araştırma, bilgisayarlar konusunda insanların mütekabiliyet gösterdiğini ciddi ciddi göz önüne seriyor. İlk bilgisayar insanlara yardımcı olduğunda, kendilerine yardımcı olan bilgisayara odadaki diğer bilgisayardan daha fazla yardım ettiler, mütekabiliyet gösterdiler. Nass:

Ama bilgisayar onlara yardım etmediğinde, odadaki diğer bilgisayara çalıştıkları bilgisayardan daha fazla yardım ettiler - ki kullandıkları bilgisayar kendilerine yardımcı olmadığı için dersini alsın.

Muhtemelen bu deneye katılan insanlar, iki bilgisayara da farklı davrandıklarının farkında bile değillerdi. Kendi hareketleri onlara görünmez olmuştu. Bütün gün, etrafımızdaki makinelerimiz ile iletişimimiz –laptoplarımızla, iPhone’larımızla- insan olmayanlara dahi uyguladığımız bir takım sosyal kurallar ile biçimlendirilmiş durumda. İletişim, oldukça sosyal. İnsan beyni, yarım yamalak da olsa bir sosyallik ya da biraz insanlık algıladığında (bu durumda "insanlık", soruları cevaplamaktı; monitörde bir yüz, ya da ses yoktu), mütekabiliyet ve mukabele dahil olmak üzere bir dizi sosyal geri dönüşleri kullanıyor.

Evrim Ağacı'ndan Mesaj

Neden Desteğe İhtiyacımız Var?

Aslında maddi destek istememizin nedeni çok basit: Çünkü Evrim Ağacı, bizim tek mesleğimiz, tek gelir kaynağımız. Birçoklarının aksine bizler, sosyal medyada gördüğünüz makale ve videolarımızı hobi olarak, mesleğimizden arta kalan zamanlarda yapmıyoruz. Dolayısıyla bu işi sürdürebilmek için gelir elde etmemiz gerekiyor.

Bunda elbette ki hiçbir sakınca yok; kimin, ne şartlar altında yayın yapmayı seçtiği büyük oranda bir tercih meselesi. Ne var ki biz, eğer ana mesleklerimizi icra edecek olursak (yani kendi mesleğimiz doğrultusunda bir iş sahibi olursak) Evrim Ağacı'na zaman ayıramayacağımızı, ayakta tutamayacağımızı biliyoruz. Çünkü az sonra detaylarını vereceğimiz üzere, Evrim Ağacı sosyal medyada denk geldiğiniz makale ve videolardan çok daha büyük, kapsamlı ve aşırı zaman alan bir bilim platformu projesi. Bu nedenle bizler, meslek olarak Evrim Ağacı'nı seçtik.

Eğer hem Evrim Ağacı'ndan hayatımızı idame ettirecek, mesleklerimizi bırakmayı en azından kısmen meşrulaştıracak ve mantıklı kılacak kadar bir gelir kaynağı elde edemezsek, mecburen Evrim Ağacı'nı bırakıp, kendi mesleklerimize döneceğiz. Ama bunu istemiyoruz ve bu nedenle didiniyoruz.

Destek Ol

Eh, bir makine hayatı için yalvardığında ne olur? Bir sosyal varlıkçaymışçasına bize döndüğünde? Yalvaran makine için kapatılmanın, tost makinemizin ya da televizyonumuzun kapatılmaya verdiği öneme denk olduğunu aklımızda tutabilecek miyiz? Makinenin canını kaybedip kaybetmemesinin önemli olmadığını?

Robotlar ile Bartneck’in Milgram Deneyi

Bartneck’in deneyinde robot (insan gibi konuşabilen bir kedi), insan denek ile yan yana oturdu ve bir bilgisayara karşı oyun oynadılar. Deneyin yarısında robot kedi zekice davranıyor ve yardım ediyordu, diğer yarısında ise bunları yapmıyordu. Bartneck, aynı zamanda robotun sosyal becerilerinin seviyesine de değiniyor:

Eğer robotla anlaşılabilseydi, robot ‘Ah, mümkünse bir öneri yapabilir miyim?’ sorusunu sorabilirdi. Değilse ‘Şimdi benim sıram, bunu yap!’ derdi.

Oyun sonunda, bir bilim insanı otoritesi, Milgram deneyinde robotun zeki ya da aptal, iyi huylu ya da kötü huylu olduğuna bakılmaksızın insana robotu kapatması gerektiğini söylemeyi modelledi. Şunun söyleneceği de modele eklendi: "Robotun kapatılması durumunda robotun olduğu her şeyi, hatıralarını, davranışlarını ya da kişiliğini tamamen yok edeceksin.”

Deneyin videolarında, araştırma deneklerinin vicdani bir ikileme düştüklerini gözlemleyebilirsiniz. Robot kedi yalvarıyor, “Gerçekten beni kapatmayacaksın, değil mi?” ve denekler aklı karışmış ve tereddüt içinde oturuyor. “Evet. Hayır. Seni kapatacağım!” bir kadın denek bağırıyor ve robotu kapatmıyor. Bartneck şunları söylüyor:

İnsanlar robot ile bu konu hakkında diyaloglar kurmaya başladı. ‘Hayır! Bunu şimdi yapmak zorundayım, üzgünüm! Ama bu yapılmak zorunda!’ derlerdi ve buna rağmen yapamazlardı.

Bir saç kurutma makinesinden daha fazla ruha sahip olmayan, elektrik devreleri ve metalden oluştuğunu bildikleri o makinenin karşısında oturdular ve ruhu olmadığını bilmelerine rağmen duraksadılar.

Eninde sonunda bütün denekler robotu öldürse de entelektüel açıdan duygusal bulantılarını aşmak zaman aldı. Yardımsever bir robot kedinin öznesi olduğu bu durumda kapatma prosedürüne hazır hale gelmeleri hemen hemen 35 saniye aldı. Sizin radyonuzu kapatmanız ne kadar vaktinizi alıyor?

Çıkarımlar

Belli bir seviyede bu tarz çalışmalara pratik çıkarımlar mevcut. Bartneck’e göre makine-insan ilişkisini ne kadar iyi bilirsek, makine üretme kabiliyetimiz o denli artacak.

Fakat daha felsefi bir bakış açısıyla yaklaşırsak bu ve benzeri araştırmalar hayatlarımızda giderek gelişen teknolojiler ile ilişkimizin ne konumda olduğunu belirlememize yardımcı olabilir. Bartneck şöyle diyor:

İlişki, inişleri çıkışları belli olmayan bir şey. Teknoloji ile ilişkimizin tek bir yolu yok ve değişmediğini iddia edemeyiz, bu, değişen bir şey. Giderek zekileşen makineler hayatlarımıza entegre olmuş durumda. Yataklarımıza, banyolarımıza geliyorlar. Ve geldikçe, bize kendilerini farklı şekillerde gösterdikçe aygıtlara karşı sosyal geri dönüşlerimiz değişecek.