Yapay Zekâ Empatisi, Düşünüldüğü Gibi Sınırsız Değil!

Alexa ve Siri gibi sohbet botları; sorularınızı yanıtlamak, önerilerde bulunmak ve hatta empati göstermek için, yani temelde sizle konuşmak için tasarlanmışlardır. Ancak yeni araştırmalar, bir kullanıcının deneyimini analiz etme ve yorumlamada insanlara kıyasla daha zayıf bir performans sergilediklerini gösteriyor.

Bu tarz sohbet botları, büyük miktarda insan üretimi verilerle beslenen Büyük Dil Modelleri (İng: "Large Language Models") tarafından desteklenmektedir. Bu nedenle, bilginin geldiği insanlarla aynı ön yargılara sahip olmaya eğilimli olabilirler.

Cornell Üniversitesi, Olin Koleji ve Stanford Üniversitesi'nden araştırmacılar, sohbet modellerini 65 farklı insanla konuşurken empati göstermeleri komutunu vererek bu teoriyi test ettiler. Ekip, sohbet botlarının eşcinsel veya Müslüman gibi belirli kimlikler hakkında değer yargılarında bulunduğunu ve Nazizm de dahil olmak üzere zararlı ideolojilerle bağlantılı kimlikleri teşvik edebildiğini buldu. Bu konu hakkında şu anda Stanford'da doktora sonrası araştırmacı olan baş yazar Andrea Cuadra şöyle söylüyor:

Otomatik empatinin, örneğin eğitim veya sağlık sektöründe muazzam ölçüde olumlu bir etkiye ve büyük bir potansiyele sahip olabileceğini düşünüyorum. Bunun (otomatik empatinin) gerçekleşmemesi ise son derece düşük bir ihtimal. Bu nedenle, bu gerçekleşirken potansiyel zararları hafifletme konusunda daha bilinçli olabilmemiz için eleştirel bakış açısına sahip olmamız önem arz ediyor.

Cuadra, 11-18 Mayıs'ta Honolulu'da düzenlenen CHI '24, "Bilgisayar Sistemlerinde İnsan Faktörleri" konulu Bilgisayar Donanımları Birliği konferansında "Empati Yanılsaması: İnsan-Bilgisayar Etkileşiminde Duygu Gösterimleri Üzerine Notlar" isimli bir sunum yapacak. Cornell Üniversitesi'nden araştırmanın ortak yazarları arasındaki Doçent Nicola Dell, bilgisayar bilimi profesörü Deborah Estrin ve bilişim bilimi doçenti Malte Jung bulunmakta.

Araştırmacılar genel olarak büyük dil modellerinin duygusal tepkiler açısından yüksek puanlar aldıklarını, ancak yorumlama ve incelemede düşük puanlar aldıklarını buldular. Başka bir deyişle, geniş dil modelleri aldıkları eğitime dayanarak bir soruya yanıt verebiliyor ancak daha derine inemiyorlar.

Dell, Estrin ve Jung, Cuadra'nın daha yaşlı yetişkinler tarafından önceki nesil konuşma botlarının kullanımını incelemesinin bu çalışma hakkında düşünmeye ilham verdiğini belirttiler. Cuadra'nın araştırmasında elde ettiği bulgu ve deneyimler için Estrin şöyle söylüyor:

Cuadra, sağlık değerlendirmeleri ve açık uçlu anımsama deneyimleri gibi işlemsel amaçlar için teknolojinin ilgi çekici kullanımlarına tanık oldu. Çalışma boyunca zorlayıcı ve rahatsız edici 'empati' arasındaki gerilimin açık örneklerini gözlemledi.

Bu araştırmanın finansmanı Ulusal Bilim Vakfı; Cornell Tech Dijital Yaşam Girişimi Doktora Bursu; Stanford PRISM Baker Doktora Sonrası Bursu ve Stanford İnsan Merkezli Yapay Zekâ Enstitüsü tarafından sağlandı.