Reddit, Bot ve Yapay Zeka Kaynaklı Manipülasyonla Mücadele İçin Yapay Zeka Kullanıyor

Reddit, platformunda yıllardır botlarla mücadele ederken, şimdi de yapay zeka tarafından üretilen içeriklerdeki artışla karşı karşıya. Sosyal ağ, bu mesaj ve yorum selini durdurmak için yapay zekayı kullanarak temizlik yapmayı hedefliyor. Şirket, "Bir adım önde olmak için, yapay zekayı kullanarak manipüle edilmiş içerikleri ve spam'ları yeni sinyaller ve daha hızlı kural uygulama yoluyla tespit etme kapasitemizi genişletiyoruz" açıklamasında bulundu.

Sorunun boyutunu ve yanıtının kapsamını göstermek için Reddit bazı rakamlar paylaştı. Geliştirilmiş sistemlerinin son aylarda günlük 23 milyon spam ile ilgili görüntülemeyi engellediğini belirtti. Ayrıca her gün yaklaşık 25.000 yeni istenmeyen mesaj ve yorum tespit edildi. Bu sayede, Ocak-Mart döneminde kullanıcıların bu tür içeriklere maruz kalması önceki üç aya göre yaklaşık %20 azaldı.

Yapay zeka sayesinde Reddit, son üç ayda günlük yaklaşık 2 milyon sahte oyu da iptal etti. Kısacası, av başarılı geçiyor. Basitçe ifade etmek gerekirse Reddit, otomatik sistemlerini iyileştirmek için yapay zekayı kullandı. Detaylı olarak, bir hesap oluşturulur oluşturulmaz sinyalleri analiz ederek şüpheli profilleri ilk mesajlarını yayınlamadan önce bloke ediyorlar.

Platformda zaten yayınlanmış gönderiler olması durumunda, büyük dil modellerini kullanarak "eski sistemlerden kaçan son derece ince ve koordineli sahte davranış kalıplarını ve yapay tanıtımı tespit ediyorlar". Reddit bu sahte davranışlarla ilgili ayrıntıya girmese de, duyuruları ve çabaları, topluluk sitesinin giderek daha fazla şirket tarafından sohbet robotlarını manipüle etmek için kullanıldığı bir döneme denk geliyor.