Sosyal Medyada Nefret Söylemini Daha İsabetli Tespit Eden Model Geliştirildi!

Waterloo Üniversitesi'nden bir araştırma ekibi, sosyal medya platformlarında nefret söylemini %88 doğrulukla tespit eden yeni bir makine öğrenme yöntemi geliştirdi. Bu yöntem, çalışanları yüzlerce saat süren ve duygusal olarak zarar verici çalışmalardan kurtarıyor.

Çok Modlu Tartışma Dönüştürücüsü (mDT) olarak adlandırılan yöntem, önceki nefret söylemi tespit yöntemlerinden farklı olarak metin ile görüntü arasındaki ilişkiyi anlayabiliyor ve yorumları daha geniş bir bağlamda değerlendirebiliyor. Bu, kültürel olarak hassas dil sayesinde, yanlışlıkla nefret söylemi olarak işaretlenen “yanlış pozitif” içerikler azaltılabilecek. Waterloo bilgisayar bilimleri doktora öğrencisi ve çalışmanın başyazarı Liam Hebert, şöyle diyor:

Bu teknolojinin, insanların nefret söylemini manuel olarak incelemesinin duygusal maliyetini azaltmaya yardımcı olabileceğini umuyoruz. Yapay zeka uygulamalarımızda topluluk merkezli bir yaklaşım benimseyerek, herkes için daha güvenli çevrimiçi alanlar yaratmaya yardımcı olabileceğimize inanıyoruz.

Araştırmacılar uzun yıllardır insan konuşmalarının anlamını analiz etmek için modeller geliştirse de bu modeller, tarihsel olarak nüanslı konuşmaları veya bağlamsal ifadeleri anlamakta zorlandı. Önceki modeller nefret söylemini ancak %74'e varan bir doğrulukla tespit edebilmişti, bu oran Waterloo araştırmasının başarabildiğinin çok altında. Hebert, şöyle devam ediyor:

Nefret söylemini anlamada bağlam çok önemlidir. Örneğin, “Bu iğrenç!” yorumu tek başına zararsız olabilir, ancak ananaslı pizza fotoğrafına veya marjinalleştirilmiş bir gruptan bir kişiye yanıt olarak verildiğinde anlamı çarpıcı bir şekilde değişir. Bu ayrımı anlamak insanlar için kolaydır, ancak bir modelini, bir tartışmadaki bağlamsal bağlantıları anlaması için, görüntüleri ve diğer multimedya unsurlarını da dikkate alarak eğitmek gerçekten büyük bir sorundur.

Waterloo ekibi, önceki çalışmalardan farklı olarak, modellerini yalnızca nefret içerikli yorumlardan değil, aynı zamanda bu yorumların bağlamından da oluşan bir veri seti ile eğitti. Model, 850 topluluktan 18.359 etiketli yorum içeren 8.266 Reddit tartışması ile eğitildi. Hebert, bu araştırmanın sebebini şöyle açıklıyor:

Her gün üç milyardan fazla insan sosyal medyayı kullanıyor. Bu sosyal medya platformlarının etkisi daha önce görülmemiş seviyelere ulaştı. Herkesin saygı gördüğü ve güvende olduğu alanlar inşa etmek için nefret söylemini geniş ölçekte tespit etmeye büyük ihtiyaç var.