Yapay Zekâ Ajanları Siyasi Kamplar Oluşturabilir mi?

Yapay zekâ ajanlarına siyasi görüşler verin, bu görüşleri savunmalarını ve birbirlerini ikna etmelerini isteyin, ardından hangi bağlantıları sürdüreceklerine kendileri karar versin. Nature Communications'ta yakın zamanda yayımlanan bir deney, tekrarlanan etkileşimlerin sonunda tanıdık bir tablonun ortaya çıktığını gösterdi: kendi çevresini giderek daha çok tercih eden karşıt kamplar.

Çin'deki Tsinghua Üniversitesinden Jinghua Piao ve meslektaşlarının oluşturduğu simülasyonlarda ajanlara benzer düşünenleri tercih etmeleri ya da yankı odaları oluşturmaları söylenmedi. Buna rağmen etkileşimleri, giderek ayrışan görüşler ve ağlar üretti. Bu bölünmeler yerleşince araştırmacılar onları gevşetmeye çalıştı. Ajanların karşılaştığı kişileri değiştirmek mi işe yarardı, yoksa ajanların dinleme biçimine dair farklı talimatlar mı gerekliydi?

Ekip, her seferinde tek bir konuyu tartışan 1.000 ajanlık ağlar kurdu: ABD'de parti aidiyeti, silah denetimi ve kürtaj yasakları. Ana deneylerde GPT-3.5 kullanıldı; diğer dil modelleriyle de ek testler yapıldı. Her ajan, beş basamaklı bir siyasi ölçekte atanmış bir görüşle başladı: sol, ılımlı sol, tarafsız, ılımlı sağ ve sağ. Ajanların yaklaşık %40'ı tarafsız başladı, yani en büyük grup ortadakilerdi.

Her turda ajanlar görüşlerine gerekçeler ve başkalarını ikna etmeyi amaçlayan mesajlar üretti. Mevcut bağlantılarını sürdürebilir ya da yeni biriyle karşılaşabilirdi. Ardından aldıkları mesajlara göre belirttikleri görüşü güncelledi.

40 turun sonunda tarafsızların payı parti aidiyetinde %22,5'e, silah denetiminde %0,4'e, kürtaj yasaklarında %5,1'e düştü. Ajanlar giderek kendi tarafındakilerle etkileşime girdi. Görüşleri daha güçlü olan müttefiklerle yapılan konuşmalar, pozisyonları tarafsızlıktan daha da uzaklaştırma eğilimindeydi.

Bazı ajanlar ise rollerini korumakta zorlandı. Tarafsız olarak atanan bir ajan, Demokrat Parti'ye güçlü destek verdiğini açıkladı. Ayrı testlerde sağcı ajanlar, aynı görüşü paylaşan biriyle konuştuktan sonra bile bazen sola kaydı.

Ekip bir denetim adımı ekledi: Ajanlardan mesajlarını ve görüş değişikliklerini gözden geçirmeleri, tutarsız yanıtları yeniden üretmeleri istendi. Sol ve sağ kamplar daha dengeli hâle geldi, ancak bölünmeler sürdü. Daha tutarlı rol yapma, kutuplaşmayı engellemedi.

Araştırmacılar ardından, parti aidiyetini tartışan ve zaten kutuplaşmış bir ağda beş müdahaleyi test etti. Son turları, müdahalesiz sürdürülen bir sürümle karşılaştırdı.

Konuşma partnerlerini rastgeleleştirmek kutuplaşmayı yalnızca biraz azalttı. Yalnızca ılımlı biçimde karşıt ajanlardan mesaj almaya izin vermenin etkisi de küçüktü. Ajanlardan çeşitli görüşler aramalarını istemek, bağlantılar bir kez kurulduktan sonra neredeyse hiçbir şeyi değiştirmedi.

Daha büyük değişim, ajanlara farklı bakış açılarının ikna çabalarına açık olmalarını söylemekten geldi. Bu, çalışmanın kutuplaşma puanını %11,8 düşürdü. Tarafsız mesajlar yayımlayan etkili ajanlar eklemek ise puanı %8,8 azalttı.

Puan, ajanların belirttiği görüşlerin tarafsızlığa ortalama uzaklığını ölçüyordu; kamplar arasındaki düşmanlığı değil. Dolayısıyla bu sonuçlar simüle edilmiş görüşlerdeki kaymaları gösteriyor, uzlaşmayı değil.

Yazarlar, müdahale bulgularının "hipotez oluşturucu olarak" anlaşılması gerektiğini belirtiyorlar. Gerekçeleri şöyle: Ajanların davranışını istemler şekillendirdi, görüşler yalnızca beş kategoride yer aldı ve insan toplumsal örüntülerine benzerlik, aynı müdahalelerin insanlarda da işe yarayacağını kanıtlamıyor.

Yine de test edilen yapay zekâ ağlarında fark belirgindi: Farklı görüşleri sohbete katmak, ajanların bu görüşlere nasıl yanıt vermesi gerektiğine dair talimatları değiştirmekten daha az etki yarattı.