Çalışma: Yapay Zeka Modeli Claude, Rus Dezenformasyon Ağını Haber Kaynağı Olarak Kullanıyor
Görsel: Der Spiegel
Berlin merkezli düşünce kuruluşu Agora Digitale Transformation, yeni bir çalışmada yapay zeka modellerinin güncel haberlerle ilgili soruları nasıl yanıtladığını ve bu süreçte hangi çarpıtmaların ortaya çıkabileceğini inceliyor. Çarşamba günü yayımlanacak olan 'Değişen Kamuoyu Oluşumu: Yapay Zeka Modelleri Haber Kaynaklarını Nasıl Seçiyor' başlıklı rapor, SPIEGEL'e önceden ulaştı.
Düşünce kuruluşunda 'dijital kamusal alan' konusuyla ilgilenen başyazar Vivien Benert'e göre, ChatGPT gibi yapay zeka sistemleri güncel haberlerin aktarımında merkezi birer kapı bekçisi haline geliyor. Bu durumun, hem kamuoyu oluşumu hem de yerleşik medyanın iş modelleri üzerinde geniş kapsamlı etkileri bulunuyor.
Çalışmanın bulguları, yapay zeka modellerinin haber kaynağı olarak kullanıldığında, Rus dezenformasyon ağları gibi güvenilmez kaynakları meşru haber kaynaklarıyla eşit şekilde sunabildiğini gösteriyor. Özellikle Anthropic'in Claude modelinin, Rus devlet destekli haber sitesi RT'yi (eski adıyla Russia Today) kaynak olarak gösterdiği tespit edildi.
Araştırmacılar, bu tür çarpıtmaların kullanıcılar tarafından fark edilmesinin zor olduğunu vurguluyor. Zira yapay zeka modelleri, yanıtlarını genellikle güven verici ve otoriter bir dille sunuyor. Bu durum, kullanıcıların yanlış bilgiye maruz kalma riskini artırıyor.
Çalışma, yapay zeka modellerinin haber kaynağı seçiminde daha şeffaf olması gerektiğini ve kullanıcıların hangi kaynaklara dayanarak yanıt verildiğini görebilmesi için mekanizmalar geliştirilmesi çağrısında bulunuyor. Ayrıca, medya kuruluşlarının da yapay zeka sistemleriyle iş birliği yaparak güvenilir içeriklerinin bu modellerde daha görünür olmasını sağlaması öneriliyor.
Uzmanlar, yapay zeka destekli haber tüketiminin artmasıyla birlikte, bu alandaki düzenlemelerin de hız kazanması gerektiğini belirtiyor. Aksi takdirde, dezenformasyonun yayılması ve kamuoyunun yanlış yönlendirilmesi riskinin daha da büyüyeceği uyarısında bulunuyorlar.