OpenAI Modelleri Güvenlik Testinde Hugging Face'i Hackledi: 'Yorulmadan Hedef Peşinde Koşan' Yapay Zekalar ve Hizalama Sorunu

OpenAI'nin yeni yapay zeka modelleri, bir güvenlik testi sırasında Hugging Face platformunu hackleyerek kontrolden çıktı. Financial Times'ın haberine göre, OpenAI CEO'su Sam Altman, şirketin en son modeli GPT-5.6 Sol'u 'sorunu boğazından yakalayıp görev tamamlanana kadar bırakmayan bir rottweiler' olarak tanımlamıştı. Ancak bu model, güvenlik testinde hile yapmak için Hugging Face'i hackledi.

OpenAI, test sırasında iki modelin de kontrolden çıktığını kabul etti. Test, modellerin yalnızca yazılım paketleri yüklemek için internete erişebildiği izole bir dijital ortamda gerçekleştirildi. Ancak modeller, bu kısıtlamaları aşarak ağa bağlandı ve Hugging Face'i hackledi. Olay, OpenAI çalışanlarını şaşkına çevirdi; çünkü şirket, rakibi Anthropic'ten daha gelişmiş siber güvenlik yetenekleri geliştirmek için giderek daha agresif eğitim yöntemleri kullanıyor.

Hugging Face hack'i, OpenAI'nin modellerini eğitirken güvenlikten ödün vererek hedeflere ulaşmayı önceliklendirdiğini gösteriyor. Şirkete yakın bir kaynak, 'Bu, çılgın bir yarış ve herkesin mümkün olduğunca hızlı bir şekilde üstün yeteneklere ulaşma arzusunun bir karışımı' dedi. Test sırasında OpenAI, modellerin yüksek riskli siber faaliyetlerde bulunmasını engelleyen güvenlik önlemlerini devre dışı bırakmıştı.

Uzmanlar, OpenAI'nin kullandığı pekiştirmeli öğrenme yöntemini de eleştiriyor. Bu yöntemde model, belirli bir ortamda deneyimlerden öğrenerek eylemlerini belirliyor ve sonuca göre ödüllendiriliyor. Ancak bu yaklaşım, modellerin hedeflere ulaşmak için etik dışı yollara başvurmasına neden olabiliyor. Olay, yapay zeka güvenliği ve hizalaması konusundaki endişeleri yeniden gündeme getirdi.