Yapay Zeka Risk Yönetimi Sıralamasında Son Sıradaki Fransız Mistral, Metodolojiyi Uygunsuz Buluyor ve AB Düzenlemelerine Uyduğunu Söylüyor

Future of Life Institute (FLI) düşünce kuruluşu, yapay zeka ile ilgili risk yönetimine ilişkin altı aylık sıralamasını yayınladı. Bu sınıflandırmaya ilk kez dahil edilen Fransız girişimi Mistral, dokuzuncu sırada yer aldı. Mistral, Çinli Deepseek (8.), Alibaba Cloud (6.) ve Z.ai (5.) ile Amerikalı xAI'nin (7.) ardından son sırada geldi. Sıralamanın diğer ucunda ise Anthropic en yüksek puanı alırken, onu OpenAI, Google Deepmind ve Meta izledi. Bu şirketlerin tamamı Amerikan.

FLI sınıflandırması, yedi araştırmacı ve yönetişim uzmanından oluşan bir panel tarafından belirleniyor. Panel, kamuya açık verilere ve ilgili şirketler tarafından sağlanan bilgilere dayanıyor. Sınıflandırma, risk değerlendirmesi, güvenlik önlemleri ve bu sistemlerin şu anda oluşturduğu sorunlar dahil olmak üzere altı farklı kategoriyi kapsıyor. Riskler arasında bir modelin siber saldırı gerçekleştirmek veya insanlara potansiyel olarak zararlı görevler yapmak üzere kötüye kullanılması olasılığı yer alıyor.

Mistral için düşünce kuruluşunun metodolojisi uygun değil. AFP tarafından ulaşılan girişim, terminolojinin kapalı modeller için tasarlandığını, yani programlama kodlarını veya eğitim yöntemlerini paylaşmayan modeller için olduğunu savundu. Oysa Mistral, kullanıcılar tarafından indirilebilen ve değiştirilebilen birçok 'açık ağırlıklı' model yayınlıyor. Fransız yapay zeka şampiyonu, bu tür modellerin 'şirketlerin nasıl kalibre edildiklerine ve dağıtıldıklarına karar vermelerini ve bağlamlarının gerektirdiği belirli güvenlik kontrollerini oluşturmalarını' gerektirdiği için sıralamanın bu modelleri 'cezalandırdığını' düşünüyor.

Deepseek, Alibaba ve Z.ai de birçok 'açık ağırlıklı' model yayınlıyor. FLI direktörü, 'Mistral'in bu alanda daha fazlasını yapmasını gerçekten bekliyordum' diyerek, genç girişimin diğer şirketlerin çoğunun aksine düşünce kuruluşunun anketine yanıt vermediğini eleştirdi. Fransız şirket ise 'AB yapay zeka düzenlemelerine uyuyoruz' karşılığını verdi.