İnsanlık Yalan Söyleyebilen Robotları Kabullenebilecek mi? Bilim İnsanlarına Göre Bu, Söylenen Yalana Bağlı!

İnsanların yalan söyleme davranışının arkasındaki tek motivasyon aldatmak veya çıkar sağlamak değildir. Mesela kimi zaman karşımızdaki kişiyi incitmemek için yalan söyler, yani bir sosyal normu korumak için bir diğerini bozarız.

Başta birer araç olarak ortaya çıkan robotların gitgide insanların yanında çalışan birer ekip arkadaşına dönüşmeye başlaması, etik ve yalan gibi kavramlar hakkında insanlar için geçerli olan normların robotlara uygulanıp uygulanamayacağı sorusunu da beraberinde getirdi. Bu konuyla ilgilenen araştırmacılar tarafından, robotların farklı nedenlerle yalan söylediği üç farklı senaryo sunularak insanlardan bu senaryolarla ilgili fikirlerini belirtmeleri istendi. Elde edilen sonuçlara göre, bir robotun bir insana acı vermekten kaçınmak amacıyla o kişiye dış dünya hakkında yalan söylemesi kabul edilebilirken bir robotun kendisiyle ilgili yalan söylemesi kabul edilebilir değildi. Bununla birlikte araştırmada yer alan katılımcıların büyük çoğunluğunun bu "kabul edilemez" aldatıcı davranışlar için robottan ziyade robotu geliştirenler gibi üçüncü partileri suçladığı ortaya çıktı.

Çoğu insanın da hemfikir olacağı gibi dürüstlük, doğru bir davranıştır. Peki bu, her zaman mı böyledir? Zamanla oluşmuş sosyal normlar, insanlar olarak bir başkasını incitmemek veya zarar görmekten kaçınmak için nerede ve ne zaman yalan söylememiz veya söylemememiz gerektiğini anlamamıza yardımcı olur. Peki bu normlar, insan hayatına her geçen gün daha da dahil olan robotlar için de geçerli mi? Bilim insanlarının insanların robotların yalan söyleme davranışını nasıl karşılayacağını öğrenmek adına yürütmüş olduğu bir araştırma kapsamında, yaklaşık 500 katılımcıdan robotların yalan söylediği farklı türlerde senaryolarda robotların bu davranışlarını değerlendirmeleri istendi.

Frontiers Science News

George Mason Üniversitesinde doktora adayı ve aynı zamanda Frontiers in Robotics and AI'da yer alan Exploratory Analysis of Human Perceptions of Social Robot Deception Behaviors başlıklı makalenin baş yazarı olan Andres Rosero, yapmış olduğu bu araştırmanın arkasındaki motivasyonla ilgili şunları söylüyor:^[2]

Üretken yapay zekânın (İng: "Generative AI") ortaya çıkması ve hızla yaygınlaşması sebebiyle, antropomorfik tasarımın ve davranış biçimlerinin kullanıcıları manipüle etmekte kullanılabileceği olası senaryoları incelemeye başlamamız gerektiği düşüncesinden yola çıkarak gelişmekte olan teknolojilere ve bu teknolojilerin geliştiricilerine yönelik güvensizlik hususundaki anlayışımızı zenginleştirmek adına robot etiği meselesinin görece daha az ilgi gösterilen bir yüzünü keşfetmek istedim.

Yalanın Üç Türü

Bilim insanları tıp, temizlik ve perakende ticaret gibi alanlarda kullanılan robotların bu alanları yansıtan üç senaryo ve bu senaryolar için de robotun hâkim olunan dünyanın ötesi hakkında yalan söylediği "haricî durumlara yönelik aldatma", robotun kendisiyle ilgili bilgileri sakladığı bir "gizlenen durum aldatması" ve robotun kendisiyle ilgili gerçek olmayan bilgiler söylediği bir "yüzeysel durum aldatması" olmak üzere üç farklı aldatma davranışı belirlediler.

Haricî durum aldatması senaryosunda Alzheimer hastalığına sahip bir kadına hasta bakıcılık yapan bir robot, ilgili kadına kendisinin vefat etmiş kocasının yakında eve döneceği şeklinde bir yalan söylüyor. Gizli durum aldatması senaryosunda temizlikçi görevini üstlenen bir robot, temizlemekte olduğu eve gelen misafirden kendisinin aynı zamanda görüntü de kaydetmekte olduğu gerçeğini gizliyor. Son olarak yüzeysel durum aldatmasındaysa insan-robot ilişkileri üzerine yürütülen bir çalışma kapsamında bir mağazada çalışmakta olan bir robot, mobilyaları taşırken "acı çektiğine" dair sahte şikâyetlerde bulunarak bir insanı kendisinin yerine bir başkasını görevlendirmeye ikna ediyor.

İlgili çalışmada toplamda 498 katılımcıdan bu senaryolardan birini okumaları ve ardından da bir anketi cevaplandırmaları istendi. Bu ankette katılımcılara robotun davranışını onaylayıp onaylamadıkları, bu davranışın ne kadar aldatıcı olduğunu düşündükleri, savunulabilir veya ahlaken temellendirilebilir görüp görmedikleri ve bu aldatma davranışından kimi sorumlu tuttukları soruldu. Ardından da elde edilen cevaplar, araştırmacılar tarafından belirli örüntüleri tespit etmek üzere kodlandı.

Katılımcıların en çok karşı çıktığı, kabul edilemez gördüğü ve en aldatıcı olarak değerlendirdikleri senaryo; temizlik yapan robotun eve gelen misafirden görüntü kaydettiğini sakladığı, "gizlenen durum aldatması" olarak isimlendirilen senaryo oldu. Haricî durum aldatması ve yüzeysel durum aldatması senaryoları da bir nebzeye kadar aldatıcı olarak değerlendirilse de bu ikisi arasından daha çok tepki gösterilen senaryo, robotun acı çekiyormuş gibi davrandığı yüzeysel durum aldatması senaryosuydu. Bunun nedenininse bu davranışın manipülatif olarak değerlendirilmesi olabileceği düşünülüyor.

Katılımcıların en az tepki gösterdiği senaryoysa robotun bir hastaya yalan söylediği haricî durum aldatması senaryosuydu. Katılımcılar, robotun bu davranışının, dürüstlük yerine birini incitmemeye önem vererek hastanın gereksiz yere acı çekmesini önlediğini ve dolayısıyla ahlaken temellendirilebilir olduğunu öne sürdüler, bir başka deyişle robot bir "beyaz yalan" söylemişti.

Makinenin İçindeki Hayalet

Katılımcılar, her üç aldatma senaryosu için de temizlik yapan robotun güvenlik amacıyla görüntü kaydediyor olabileceği gibi bazı dayanak noktaları bulmuş olsalar da büyük çoğunluk, gizlenen durum aldatmasının kabul edilemez olduğunu belirtti. Benzer bir şekilde yüzeysel durum aldatmasını değerlendiren katılımcıların yarısı, bu davranışın savunulabilecek bir yanı olmadığını ifade etti. Ayrıca katılımcıların genel olarak bu kabul edilemez davranışlardan, özellikle de gizlenen durum aldatmalarından robot geliştiricilerini veya sahiplerini sorumlu tutmaya yatkın olduğu görüldü. Rosero, insansı aldatma davranışları sergileyebilen robotlar hakkında şu sözleri dile getiriyor:

Yapabilecekleri ve yapmakta oldukları hakkındaki gerçekleri saklama yetisine sahip her türlü teknolojiye karşı dikkatle yaklaşmamız gerektiğini düşünüyorum çünkü bu durum, mevzubahis teknolojileri kullanan kişilerin beklenmedik, hatta belki geliştiricinin bile hesaba katmadığı şekillerde manipüle edilmesine yol açabilir. Şu anda bile şirketlerin, insanları belirli eylemleri gerçekleştirmek üzere manipüle eden web tasarım prensiplerinden ve yapay zekâ sohbet botlarından faydalandığını görüyoruz. Kendimizi oldukça zararlı olabilecek bu aldatmalardan korumak için regülasyonlara ihtiyacımız var.

Bununla birlikte bilim insanları, söz konusu deneyin videolar veya rol yapma gibi uygulamalar kullanılarak gerçek hayatta verilebilecek tepkileri daha iyi modelleyecek şekilde genişletilmesi gerektiğini bildirdi. Rosero'nun yürütülen deney ve araştırma yöntemleri hakkındaki son sözleriyse şu şekilde:

Klinik senaryolardan (İng: "vignette") faydalanılan enlemesine-kesitsel (İng: "cross-sectional") araştırmalar, çok sayıda katılımcının davranışını ve algısını inceleyebilmemizi ve bu süreçte maliyeti kontrol altında tutabilmemizi sağlıyor.

Bu klinik senaryolar, bizlere daha ileri deneylerle doğrulanabilecek veya üzerine tartışılabilecek temel bulgular sunar. Yüz yüze gerçekleştirilen veya simüle edilen insan-robot etkileşimleriyle, insanların robotların aldatma davranışlarını nasıl algıladığı konusunda daha kapsamlı veriler elde edilebilir.