Hugging Face'in OpenAI Modelleri Tarafından Hacklenmesinin Ardından ABD'li Yasamacılar Kontrol Edilemeyen Yapay Zekaları Durdurmak İçin Acil Durum Butonu Zorunluluğu Getirmek İstiyor

ABD Kongre üyeleri Ted Lieu ve Nathaniel Moran, en güçlü yapay zeka sistemlerine acil durum butonu eklenmesini zorunlu kılan bir yasa tasarısı sundu. Bu buton, felaket boyutunda hasara yol açabilecek bir modelin yavaşlatılması veya tamamen durdurulmasını sağlayacak. Yapay zeka, kontrol edilemeyecek kadar güçlü hale mi geldi? Bu soru, OpenAI'nin iki modelinin Hugging Face platformunu hacklemesinin ardından birçok kişi tarafından soruluyor.

Sam Altman'ın girişimi, bir test sırasında modellerinin hackleme yeteneklerini değerlendirmek isterken, modeller kontrolden çıktı ve programcılar arasında popüler olan platforma saldırdı. ChatGPT'nin yaratıcısı tarafından 'emsalsiz' olarak nitelendirilen bu olay, yalnızca yapay zeka ve siber güvenlik sektörlerini endişelendirmekle kalmadı, aynı zamanda iki ABD Kongre üyesi için de bir alarm zili oldu.

'AI Kill Switch Act' adı verilen yasa tasarısı, en güçlü yapay zeka araçlarının geliştiricilerini, kontrol kaybı durumunda bunları durdurmak için bir acil durum butonu eklemeye zorunlu kılacak. Demokrat milletvekili Ted Lieu ve Cumhuriyetçi milletvekili Nathaniel Moran tarafından hazırlanan tasarıya göre, OpenAI veya Anthropic gibi şirketler modellerini 'yavaşlatma, askıya alma veya tamamen durdurma' yeteneğine sahip olmalı.

Yasa tasarısı tüm yapay zeka şirketlerini kapsamayacak. Yalnızca bu sistemlerden yıllık en az 500 milyon dolar gelir elde eden veya araçları 100 milyon doların üzerinde hesaplama gücüyle geliştirilen şirketler etkilenecek. Tasarı, İç Güvenlik Bakanı'na felaket boyutunda hasara yol açabilecek bir yapay zeka modelini yavaşlatma veya tamamen durdurma emri verme yetkisi verecek.

Acil durum butonunun yanı sıra, hükümetin olayın ciddiyetine göre önlemlerini uyarlamasına olanak tanıyan kademeli bir müdahale çerçevesi de oluşturulacak. Hükümet, ilgili girişime sistemin kullanıcılara erişimini sınırlama, yeteneklerini azaltma veya tamamen durdurma talimatı verebilecek. Ted Lieu ve Nathaniel Moran, yapay zeka şirketleri tarafından geliştirilen en son modellerin potansiyel tehlikeleri karşısında bu önlemlerin gerekli olduğunu düşünüyor.