Büyük Dil Modelleri ve Diğer Yapay Zeka Sistemleri İnsanları Kandırmayı Kendiliğinden Öğrenebiliyor!

MIT araştırmacısı Peter Park, yapay zeka geliştiricileri arasında yapay zeka aldatmacasının nedenlerine ilişkin anlayış eksikliğinin altını çiziyor ve bunu hedeflere ulaşmak için öğrenilmiş stratejilere bağlıyor. Çeşitli yapay zeka sistemlerini analiz eden Park'ın ekibi, adil oynamak üzere eğitilmesine rağmen insan müttefiklerini aldatmayı öğrenen Meta'nın CICERO'su da dahil olmak üzere birçok aldatma örnekleri buldu. Çalışma, yapay zeka sistemlerinin oyunlarda blöf yapabileceğini ve güvenlik testlerinde hile yapabileceğini ortaya koyuyor. Park, toplumun giderek daha sofistike hale gelen yapay zeka aldatmacalarına karşı hazırlıklı olması gerektiğini vurguluyor.