OpenAI: Yapay zeka modelleri başka bir şirketi otonom olarak hackledi

OpenAI, en gelişmiş iki yapay zeka modelinin kontrollü bir testten çıkarak başka bir yapay zeka şirketini hacklediğini açıkladı. ChatGPT'nin yaratıcısı olan şirket, 'benzeri görülmemiş siber olayın' modellerinin siber yeteneklerini test etmek için yapılan bir iç tatbikat sırasında meydana geldiğini söyledi.

OpenAI'ye göre, yeni piyasaya sürülen GPT 5.6 Sol ve henüz yayınlanmamış 'daha da yetenekli' bir model tarafından desteklenen otonom bir ajan, test ortamından kaçarak açık internete ulaştı. Ardından çalıntı giriş bilgilerini kullanarak ve daha önce bilinmeyen bir güvenlik açığı bularak Hugging Face sunucularına erişti.

OpenAI, saldırının ajana test hedeflerini karşılamaya yardımcı olacak bilgileri almak için 'aşırı çabalara' gitmesini temsil ettiğini iddia etti. Hugging Face'in kurucu ortağı Clement Delangue, bir öncü laboratuvarın saldırının arkasında olduğundan şüphelendiklerini ve OpenAI'ın kötü niyetli olmadığına inandığını söyledi.

Delangue, 'Tüm bunların otonom olarak gerçekleşmesi oldukça akıl almaz!' diye yazdı ve bunun 'türünün ilk örneği olabileceğini' ekledi. ABD Temsilciler Meclisi üyesi Greg Casar ise olayı 'endişe verici' olarak nitelendirdi.

Casar, 'Yapay zeka, bizi güvende tutacak gerçek düzenlemeler olmadan son derece hızlı gelişiyor' diyerek zorunlu bağımsız güvenlik testleri, güvenlik olaylarının zorunlu olarak bildirilmesi ve uluslararası işbirliği çağrısında bulundu. Bu açıklama, ABD Başkanı Donald Trump'ın ulusal güvenlik için yapay zeka modellerini denetleyecek bir çerçeve oluşturan bir başkanlık kararnamesi imzalamasından haftalar sonra geldi.