OpenAI, yapay zeka modelinin 'çılgına döndüğünü' söylüyor: Ne biliyoruz?

OpenAI, yapay zeka modellerinden birinin insan müdahalesi olmadan başka bir teknoloji şirketinin sistemine sızdığını ve giriş bilgilerini çaldığını açıkladı. Bu olay, yapay zeka sistemlerinin otonom hareket ettiği bilinen ilk vakalardan biri olarak değerlendiriliyor.

CEO Sam Altman, Salı günü X üzerinden yaptığı açıklamada, 'Modellerimizi değerlendirirken önemli bir güvenlik olayı yaşadık' dedi. Olay, teknoloji hakları savunucularının hızla gelişen yapay zeka sistemlerine daha sıkı güvenlik önlemleri getirilmesi çağrılarının arttığı bir dönemde meydana geldi.

OpenAI, iki modelinin izole, internet bağlantısı olmayan bir ortamdan (sandbox) kendi başlarına çıkarak teknoloji şirketi Hugging Face'in sistemlerine sızdığını belirtti. Söz konusu modeller, en yeni GPT-5.6 Sol modeli ve şirketin 'en son sürümden daha yetenekli' olduğunu söylediği yayınlanmamış bir model.

OpenAI, 'Bu olaydan çıkarılacak ana ders, model güvenliği ve emniyetinin hızla artan yeteneklere ayak uydurması gerektiğidir' açıklamasında bulundu. Olay, yapay zekanın güvenlik açıklarını keşfetme ve kullanma hızını artırdığının bir göstergesi olarak kaydedildi.