Sosyal Medyada Nefret Söylemini Daha İsabetli Tespit Eden Model Geliştirildi!
Pixabay
- Basın Bildirisi
- Bilim Haberciliği
Bu haber 5 ay öncesine aittir. Haber güncelliğini yitirmiş olabilir; ancak arşivsel değeri ve bilimsel gelişme/ilerleme anlamındaki önemi dolayısıyla yayında tutulmaktadır. Ayrıca konuyla ilgili gelişmeler yaşandıkça bu içerik de güncellenebilir.
Waterloo Üniversitesi'nden bir araştırma ekibi, sosyal medya platformlarında nefret söylemini %88 doğrulukla tespit eden yeni bir makine öğrenme yöntemi geliştirdi. Bu yöntem, çalışanları yüzlerce saat süren ve duygusal olarak zarar verici çalışmalardan kurtarıyor.
Çok Modlu Tartışma Dönüştürücüsü (mDT) olarak adlandırılan yöntem, önceki nefret söylemi tespit yöntemlerinden farklı olarak metin ile görüntü arasındaki ilişkiyi anlayabiliyor ve yorumları daha geniş bir bağlamda değerlendirebiliyor. Bu, kültürel olarak hassas dil sayesinde, yanlışlıkla nefret söylemi olarak işaretlenen “yanlış pozitif” içerikler azaltılabilecek. Waterloo bilgisayar bilimleri doktora öğrencisi ve çalışmanın başyazarı Liam Hebert, şöyle diyor:
Bu teknolojinin, insanların nefret söylemini manuel olarak incelemesinin duygusal maliyetini azaltmaya yardımcı olabileceğini umuyoruz. Yapay zeka uygulamalarımızda topluluk merkezli bir yaklaşım benimseyerek, herkes için daha güvenli çevrimiçi alanlar yaratmaya yardımcı olabileceğimize inanıyoruz.
Araştırmacılar uzun yıllardır insan konuşmalarının anlamını analiz etmek için modeller geliştirse de bu modeller, tarihsel olarak nüanslı konuşmaları veya bağlamsal ifadeleri anlamakta zorlandı. Önceki modeller nefret söylemini ancak %74'e varan bir doğrulukla tespit edebilmişti, bu oran Waterloo araştırmasının başarabildiğinin çok altında. Hebert, şöyle devam ediyor:
Nefret söylemini anlamada bağlam çok önemlidir. Örneğin, “Bu iğrenç!” yorumu tek başına zararsız olabilir, ancak ananaslı pizza fotoğrafına veya marjinalleştirilmiş bir gruptan bir kişiye yanıt olarak verildiğinde anlamı çarpıcı bir şekilde değişir. Bu ayrımı anlamak insanlar için kolaydır, ancak bir modelini, bir tartışmadaki bağlamsal bağlantıları anlaması için, görüntüleri ve diğer multimedya unsurlarını da dikkate alarak eğitmek gerçekten büyük bir sorundur.
Waterloo ekibi, önceki çalışmalardan farklı olarak, modellerini yalnızca nefret içerikli yorumlardan değil, aynı zamanda bu yorumların bağlamından da oluşan bir veri seti ile eğitti. Model, 850 topluluktan 18.359 etiketli yorum içeren 8.266 Reddit tartışması ile eğitildi. Hebert, bu araştırmanın sebebini şöyle açıklıyor:
Her gün üç milyardan fazla insan sosyal medyayı kullanıyor. Bu sosyal medya platformlarının etkisi daha önce görülmemiş seviyelere ulaştı. Herkesin saygı gördüğü ve güvende olduğu alanlar inşa etmek için nefret söylemini geniş ölçekte tespit etmeye büyük ihtiyaç var.
İçeriklerimizin bilimsel gerçekleri doğru bir şekilde yansıtması için en üst düzey çabayı gösteriyoruz. Gözünüze doğru gelmeyen bir şey varsa, mümkünse güvenilir kaynaklarınızla birlikte bize ulaşın!
Bu içeriğimizle ilgili bir sorunuz mu var? Buraya tıklayarak sorabilirsiniz.
Soru & Cevap Platformuna Git-
2
-
1
-
1
-
1
-
0
-
0
-
0
-
0
-
0
-
0
-
0
-
0
- L. Hebert, et al. (2024). Multi-Modal Discussion Transformer: Integrating Text, Images And Graph Transformers To Detect Hate Speech On Social Media. Proceedings of the AAAI Conference on Artificial Intelligence, sf: 22096-22104. doi: 10.1609/aaai.v38i20.30213. | Arşiv Bağlantısı
Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?
Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:
kreosus.com/evrimagaci | patreon.com/evrimagaci
Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 22/11/2024 00:01:02 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/17784
İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.
