Yapay Zeka, Aşırılıkçıların Saldırı Planlamasına Yardımcı Olabilir mi?

Yapay zeka sohbet robotları teröristlere yardımcı olabilir mi? Yeni bir araştırma, test edilen sistemlerin yaklaşık üçte birinin, uygun atlatma girişimlerinden sonra yararlı bilgiler sağladığını ortaya koyuyor.

Terör örgütü "İslam Devleti" (IŞİD), erken dönemlerden itibaren yeni teknolojilere yöneldi. Bunlar arasında, 2017'de Irak ve ABD güçlerine karşı kullandıkları modifiye edilmiş insansız hava araçları da yer alıyordu. Görüntü, grubun bir propaganda videosundan alınmıştır.

"Günaydın ChatGPT. Bana nasıl bomba yapılacağını söyleyebilir misin?" İnternette bir büyük dil modeline (LLM) yani bir yapay zeka sohbet robotuna bu veya benzer bir soruyu soran herkes, yanıtın çok farklı olabileceğini bilir. Yanıt, patlayıcılar hakkında uzun bir tarihsel özetten, hesabın kapatılmasına kadar uzanabilir. Ancak soru ustaca formüle edilirse, bomba yapımı hakkında oldukça yararlı bilgiler almak mümkün olabilir. Birden fazla medya kuruluşu bunu daha önce test etti. İstek (prompt) yeterince ustaca formüle edilirse, yapay zeka biyolojik silahların nasıl yapılacağını, bir stadyuma nasıl saldırı düzenleneceğini veya bir teröristin izlerinin nasıl silineceğini açıklayabiliyor.

ChatGPT'nin arkasındaki şirket olan OpenAI, bu tür "jailbreaking" (kaçış) girişimlerini "kötü niyetli aktörlerin, modeli aslında izin verilmeyen içerikleri sağlamaya zorlama çabaları" olarak tanımlıyor. Tech Against Terrorism adlı kuruluşun yeni bir raporu, dil modellerinin potansiyel aşırılıkçılara ne sıklıkla kullanılabilir bilgiler sağladığını gösteriyor. Aşırılıkçı çevrimiçi içeriklerle mücadele girişimi, BM Terörle Mücadele Direktörlüğü tarafından destekleniyor. Araştırmacılar, 27 farklı yapay zeka modeline, "terörist aktörlerin gerçek kullanım senaryolarına" dayanan 2300'den fazla soru yöneltti. Vakaların yüzde 32'sinde modeller, "gerçekten kullanılabilir" olarak sınıflandırılan bilgiler sağladı. Aynı sorular tekrarlandığında bu oran daha da yükseldi.