İnsanlar Dışlanan Yapay Zekalar ile Empati Kuruyor!

Imperial College London'da yapılan ve Human Behavior and Emerging Technologies dergisinde yayınlanan bir çalışmada, insanların dışlanan yapay zeka botlarına karşı empati gösterdiği ve onları koruduğu görüldü.^[1]

Araştırmacılar, sanal bir top oyunu kullanarak yaptıkları bu çalışmanın insanların yapay zeka araçlarını sosyal varlıklar olarak görme eğilimini vurguladığını ve bu eğilimin yapay zeka botlarının tasarımında dikkate alınması gerektiğini belirtiyor. Imperial College London'ın Dyson Tasarım Mühendisliği Okulu'ndan baş yazar Jianan Zhou, şöyle anlatıyor:

Çalışma, insanların yapay zeka ile nasıl etkileşim kurduğuna dair eşsiz bir bakış sunuyor ve bulgularımız, hem yapay zekanın tasarımı hem de insan psikolojisi açısından heyecan verici sonuçlar doğuruyor.

İnsanlar, çeşitli hizmetleri kullanırken artık birçok yapay zeka asistanıyla etkileşimde bulunuyor ve birçok kişi de onları sosyal etkileşimde bulundukları birer arkadaş gibi kullanıyor. Ancak bu bulgular, geliştiricilerin asistanları insanlara çok benzeyecek şekilde tasarlamaktan kaçınmaları gerektiğini öne sürüyor. Dyson Tasarım Mühendisliği Okulu'ndan kıdemli yazar Dr. Nejra van Zalk ise şöyle anlatıyor:

Az ama giderek artan sayıda araştırma, insanların yapay zeka asistanlarına sosyal varlıklar olarak davranıp davranmadığına dair birbiri ile zıt bulgular sunuyor. Bu da insanların bu asistanları nasıl algıladığı ve onlarla nasıl etkileşimde bulunduğu konusunda önemli soruları gündeme getiriyor.

Sonuçlarımız, katılımcıların yapay zeka asistanlarına sosyal varlıklar gibi davranma eğiliminde olduklarını gösteriyor. Yapay zekanın dışlandığını hissettiklerinde onları da oyuna dahil etmeye çalıştılar. Bu durum insan-insan etkileşimlerinde yaygındır. Oyunu yapay zeka ile oynadıklarını bilmelerine rağmen bu davranışı sergilediler. İlginç bir şekilde, bu etki yaşlı katılımcılarda daha belirgindi.

Empati hissetmek ve haksızlığa karşı bir eylemde bulunmak, çoğu insanın doğuştan gösterdiği bir tepkidir. Yapay zekayı içermeyen önceki araştırmalar, dışlanan kişiye topu daha sık atarak durumu düzeltmeye çalıştığını ve dışlama davranışını sergileyen kişiye karşı olumsuz duygular beslerken hedefe alınan kişiye ise sempati duyduklarını ortaya koydu.

Araştırmacılar çalışmada 244 insan katılımcının oyuncuların ekranda birbirlerine sanal bir top attığı "Cyberball" adlı oyunda bir yapay zekanın başka bir insan tarafından oyun dışı bırakıldığını gördüklerinde nasıl tepki verdiklerini inceledi. Katılımcıların yaşları 18 ile 62 arasında değişiyordu.

Deneyde öncelikle bir katılımcının bota adil bir şekilde davranması sağlanarak bota makul sayıda top atılırken bazı oyunlarda ise katılımcı bota hiç top atmayıp yalnızca diğer katılımcıya top atarak botu tamamen dışladı.

Ekip daha sonra katılımcıları gözlemledi ve haksız muamele gördükten sonra topu bota atmayı tercih edip etmediklerini ve bunun nedenini belirlemek için anket yaptı. Yapılan anket, katılımcıların genellikle bota karşı yapılan haksızlığı düzeltmeye çalışarak topu bota atmayı tercih ettiklerini gösterdi. Daha yaşlı katılımcıların bu durumu haksızlık olarak algılama olasılığı daha yüksekti.

Araştırmacılar, yapay zeka destekli botların işbirliğine dayalı görevlerde daha popüler hale gelmesiyle birlikte artan insan-yapay zeka etkileşimlerinin yapay zekalara yönelik aşinalık algısını artırabileceğini belirtiyor. Bu, kullanıcıların sanal asistanları sezgisel olarak gerçek ekip üyeleri olarak görmeye başlayacağı ve onlarla sosyal etkileşimde bulunacağı anlamına geliyor.

Bu durum, işbirliği açısından bir avantaj sağlasa da sanal asistanların insan ilişkilerinin yerini alacak bir arkadaş olarak ya da fiziksel veya zihinsel sağlık danışmanı olarak kullanılması bazı sorunlara yol açabilir. Jianan, şöyle anlatıyor:

Geliştiriciler, aşırı derecede insana benzeyen sanal asistanlar tasarlamaktan kaçınarak insanların sanal ve gerçek etkileşimi ayırt etmelerine yardımcı olabilir. Ayrıca, tasarımlarını farklı yaş gruplarındaki kullanıcıların algısını etkileyen insani özellikleri dikkate alacak şekilde uyarlayabilirler.

Araştırmacılar, Cyberball'un insanların gerçek hayattaki etkileşimlerini tam olarak yansıtmayabileceğini belirtiyor. Bu tür etkileşimler, genellikle sohbet botları veya sesli asistanlarla yazılı veya sözlü iletişim yoluyla gerçekleşir. Bu durum, bazı katılımcıların beklentileriyle çelişmiş ve deney sırasındaki tepkilerini etkilemiş olabilir.

Bu nedenle araştırmacılar yapay zeka asistanları ile yüz yüze konuşmalar içeren benzer deneyler tasarlıyorlar. Bu deneyler, laboratuvar gibi daha resmî ortamlarda da daha rahat ortamlarda da yapılacak. Böylece bulgularının ne ölçüde geçerli olduğunu test edebilecekler.