Anthropic, ABD güvenlik endişeleri nedeniyle yeni AI araçlarını askıya aldı

BBC News'in haberine göre, Anthropic, ABD hükümetinin güvenlik endişeleri nedeniyle güçlü yeni AI modeli Claude Fable 5'i askıya aldı. Şirket, web sitesinde yayınladığı bir açıklamada, ABD yetkililerinin modelin kamuya açıklanmasından sadece günler sonra güvenlik endişeleri dile getirdiğini ve yabancı uyrukluların bu programı kullanmasının durdurulması emri verildiğini belirtti.

Anthropic, Claude Fable 5'i 'çok güçlü' olarak tanımladı ve bu emrin etkisiyle tüm müşteriler için Fable 5 ve Mythos 5'i aniden devre dışı bırakmak zorunda kaldıklarını ifade etti. Şirket, ABD ulusal güvenlik yetkililerinin belirli endişeleri tanımlamadığını, ancak hükümetin Fable 5'i 'jailbreak' etmenin bir yolunu keşfettiğine inandığını söyledi.

Claude Fable 5, Anthropic'in Claude Mythos'un bir versiyonu olup, OpenAI'ın ChatGPT'si ve Google'ın Gemini'si gibi rakiplerine karşı yarışan bir AI programıdır. Anthropic ve Trump yönetimi, devlet kurumlarının şirketin AI araçlarını kullanmasını durdurma emriyle ilgili ayrı bir davada bulunuyor. BBC, ABD Ticaret Bakanlığı'ndan yorum talebinde bulundu.

Jailbreaking, yazılım kısıtlamalarını aşma sürecidir ve Anthropic, hükümetin bu yöntemle ilgili endişeleri olduğunu belirtti. Şirket, bu durumun ulusal güvenlik riski oluşturabileceğini kabul ederek, gerekli düzenlemelere uyum sağlamak için modeli geçici olarak durdurduklarını açıkladı.