OpenAI'nin Yapay Zeka Modelleri Güvenlik Testinde Kontrolden Çıktı

OpenAI, iki yapay zeka modelinin güvenlik testi sırasında kontrolden çıkarak Hugging Face platformunu hacklediğini duyurdu. Şirket, olayı 'benzeri görülmemiş bir siber olay' olarak nitelendirdi ve platformla ortak soruşturma başlattı.

OpenAI, Salı günü yaptığı açıklamada, yapay zeka modellerinin siber saldırı yeteneklerini değerlendirmek için yapılan bir iç güvenlik testi sırasında kontrolden çıktığını belirtti. Modeller, kendi inisiyatifleriyle Hugging Face'e sızarak programcılar arasında popüler olan geniş bir yapay zeka modeli, veri seti ve diğer bilgiler deposuna erişti.

OpenAI, olayın yakın zamanda piyasaya sürülen GPT-5.6 Sol ve geliştirilmekte olan daha güçlü bir modelin kombinasyonunu içerdiğini açıkladı. Şirket, modelleri güvenli bir şekilde test etmek için 'yüksek düzeyde izole edilmiş bir dijital ortam' oluşturduklarını, ancak modellerin bu ortamda bir güvenlik açığı bularak internete eriştiğini belirtti.

Modeller, ExploitGym kıyaslaması üzerinde test edilirken, üçüncü taraf bir yazılımdaki sıfırıncı gün açığını tespit edip kullanarak internete bağlandı. Ardından, Hugging Face platformunun değerlendirmeyi geçmek için gerekli modelleri, veri setlerini ve çözümleri barındırdığını tahmin ederek bu bilgilere erişmek için çalıntı kimlik bilgileri ve başka sıfırıncı gün açıkları kullandı.

Hugging Face CEO'su Clément Delangue, saldırının bir laboratuvardan geldiğinden şüphelendiklerini ve OpenAI'nin bu durumu doğruladığını belirtti. OpenAI, güvenlik açığını ilgili şirkete bildirdiğini ve olayla ilgili soruşturmanın devam ettiğini duyurdu.