Anthropic, ABD hükümetinin emriyle güçlü yapay zeka modeli Fable'a erişimi iptal etti

Yapay zeka şirketi Anthropic, ABD hükümetinin güvenlik endişeleri nedeniyle yeni modeli Fable 5'e erişimi askıya aldı. Şirket, web sitesinde yayınladığı açıklamada, ABD'de yaşayan yabancılar da dahil olmak üzere tüm yabancıların Claude Fable'ı kullanmasının yasaklanması emri aldığını belirtti. Anthropic, Fable 5 ve sınırlı erişimli Mythos 5'e tüm müşterileri için erişimi devre dışı bırakma kararı aldı.

BBC'nin haberine göre, Anthropic ve Trump yönetimi, hükümet kurumlarının şirketin yapay zeka araçlarını kullanmasını yasaklayan ayrı bir emirle ilgili olarak da mahkemede karşı karşıya geliyor. Anthropic açıklamasında, ABD ulusal güvenlik yetkililerinin Fable ile ilgili belirli sorunlardan bahsetmediğini ifade etti. Ancak hükümet, modele yönelik bir jailbreak yöntemi hakkında bilgilendirildiğine inanıyor.

Jailbreak, modelin korumalarını aşarak kötü niyetli bilgisayar korsanlarının işlevlerin kilidini açmasına olanak tanıyan bir süreçtir. Anthropic, 'Bu belirli tekniğin, az sayıda bilinen, küçük güvenlik açığını tespit etmek için kullanıldığı bir gösterimi inceledik. Tüm bu güvenlik açıkları nispeten basit görünüyor ve diğer kamuya açık modellerin de bunları tespit edebildiğini gördük' dedi.

Claude Fable 5'in piyasaya sürülmesinden önce, finans, teknoloji ve kamu sektöründen üst düzey isimler modelin kamuya açılmasıyla ilgili endişelerini dile getirmişti. Anthropic, aracın bilgisayar sistemlerinden yararlanma veya bunları ihlal etme yeteneği nedeniyle tehlikeli olabileceğini düşünerek, lansman öncesinde yalnızca seçilmiş birkaç kişiye erişim izni vermişti.