TikTok, yapay zeka ile üretilmiş spam içeriklere karşı önlemlerini sıkılaştırıyor

TikTok, yapay zeka tarafından üretilen spam içeriklere karşı harekete geçiyor. Çin merkezli sosyal medya platformu, Cuma günü yaptığı açıklamada, bu teknolojiyi tespit etme mekanizmalarını güçlendireceğini ve yalnızca yapay zeka ile oluşturulmuş videolar yayınlayan hesaplara karşı önlem alacağını duyurdu.

Şirket, önümüzdeki haftalarda, kamu güveni veya kullanıcı refahı üzerinde etkili olabilecek konularda yapay zeka kaynaklı spam yayınlayan hesapları hedef almak için tespit sistemlerinde iyileştirmeler test edeceğini belirtti. Açıklamada, siyaset ve güncel olaylar, sağlık ve finansal tavsiyeler gibi temaların bu kapsamda yer aldığı ve bu içeriklerin özgün yaratıcıların görünürlüğüne zarar verdiği vurgulandı.

AFP ile paylaşılan bilgilere göre platform, 'spam' olarak nitelendirilen hesapları, düşük kaliteli ve standartlaştırılmış yapay zeka içerikleri üreten, kamu güvenine zarar verebilecek yüksek riskli konularda yoğunlaşan ve takipçi alıp satan hesaplar olarak tanımlıyor. TikTok, bu hesapların tespitini iyileştirmek için hangi teknik önlemleri alacağına dair ayrıntılı bilgi vermedi.

TikTok, diğer sosyal ağlar gibi, bazen düşük maliyetle yüksek izleyici kitlesi oluşturmak için kullanılan yapay zeka içeriklerinin yaygınlaşmasından etkileniyor. Bu fenomen, düşük kaliteli ve bazen anlamsız içerikleri tanımlamak için 'AI slop' (yapay zeka bulamacı) olarak adlandırılıyor. Üretken yapay zeka araçları ayrıca daha politik veya aktivist amaçlarla, hatta dezenformasyon amacıyla da kullanılıyor.

AFP, on beşten fazla doğrulama kuruluşu arasında yer alarak, birçok ülkede TikTok tarafından potansiyel olarak yanlış bilgi içeren videoları doğrulamak üzere ücretlendiriliyor. Kullanıcı deneyimine zarar verebilecek ve onları sosyal ağlardan uzaklaştırabilecek yapay zeka içeriklerinin artmasına yanıt olarak, birçok platform ilgili içerikleri tespit etmek için önlemler aldı. TikTok, 2024 yılında yapay zeka ile oluşturulan içeriklerin otomatik olarak işaretleneceğini duyurmuştu. Pinterest ise Ekim 2025'te kullanıcıların platformda yayınlanan yapay zeka içeriklerinin bir kısmını filtrelemesine olanak tanıyacağını açıklamıştı.