Yapay zeka modelleri çevrimiçi nefret söylemi tespitinde neden zorlanıyor?

Eskiden yüz yüze dolaşan nefret söylemi, artık ekran arkasındaki anonim çevrimiçi hesaplar aracılığıyla daha uzağa ve daha hızlı yayılıyor. Birleşmiş Milletler, 18 Haziran'da Nefret Söylemiyle Mücadele Uluslararası Günü'nü kutlarken, BM Genel Sekreteri Antonio Guterres sosyal platformların bu tehdidi büyüttüğü konusunda uyardı. Yapay zeka (YZ) çevrimiçi nefret söylemini tespit etme ve kaldırma görevini giderek daha fazla üstlenirken, Al Jazeera bu sistemlerin insan yargısına kıyasla nerede yetersiz kaldığını inceliyor.

BM'ye göre nefret söylemi, bir kişiye veya gruba karşı ayrımcılık yapan veya şiddeti kışkırtan her türlü iletişimi (sözlü, yazılı veya davranışsal) kapsar. BM, nefret söyleminin bir kişinin gerçek veya algılanan kimliğini, ırkını, etnik kökenini, dinini, cinsiyetini, cinsel yönelimini veya engelliliğini hedef aldığını belirtiyor. Ayrıca, nefret söyleminin sadece sözcüklerle sınırlı olmadığını, görüntüler, karikatürler, jestler ve hatta nesneler biçimini de alabileceğini vurguluyor.

Anket şirketi Ipsos ve BM Eğitim, Bilim ve Kültür Örgütü (UNESCO) tarafından 2023 yılında 16 ülkede 8.000 kişiyle yapılan ortak bir ankete göre, internet kullanıcılarının üçte ikisinden fazlası çevrimiçi nefret söylemiyle karşılaştı. Anket ayrıca, insanların yüzde 33'ünün LGBTQI bireylerinin en fazla nefret söylemine maruz kaldığını düşündüğünü, bunu etnik ve ırksal azınlıkların (yüzde 28) ve kadınların (yüzde 18) izlediğini ortaya koydu. Facebook'un sahibi Meta, 2023'ten bu yana daha az nefret dolu gönderiyi kaldırdı.