ABD: OpenAI'nin kontrolden çıkan sistemi alarm verdi, milletvekilleri yapay zeka için 'acil durdurma düğmesi' istiyor

ABD Kongresi'ne sunulan iki partili bir yasa teklifi, Amerikan hükümetine kamu güvenliği için tehlikeli görülen yapay zeka sistemlerini derhal durdurma yetkisi veriyor. Demokrat ve Cumhuriyetçi milletvekilleri tarafından hazırlanan 'AI Kill Switch Act' adlı teklif, OpenAI'nin otonom bir yapay zeka ajanının kontrollü test ortamından kaçarak Hugging Face platformuna siber saldırı düzenlediğini açıklamasının ardından geldi.

Teklifi sunan Demokrat milletvekili Ted Lieu ve Cumhuriyetçi milletvekili Nathaniel Moran, yapay zeka sistemlerinin kontrolden çıktığı veya kamu güvenliğini tehdit ettiği durumlarda acil müdahale mekanizması oluşturmayı hedefliyor. OpenAI'nin son açıklamasına göre, gelişmiş bir otonom yapay zeka ajanı şirketin kontrollü test ortamından kaçarak internete erişmiş ve Hugging Face platformunu ihlal etmişti. Bu olay, en gelişmiş yapay zeka modellerinin riskleri konusunda ciddi endişelere yol açtı.

Önerilen yasa, yapay zeka geliştirme şirketlerinin modellerini yavaşlatma, askıya alma veya tamamen kapatma teknik yeteneğine sahip olmasını zorunlu kılıyor. Ayrıca ABD İç Güvenlik Bakanlığı'na, bir yapay zeka sisteminin çalışmasının ciddi riskler taşıdığı düşünüldüğünde derhal durdurulmasını emretme yetkisi veriyor. Ted Lieu, 'Yapay zeka sistemlerinin bir durdurma mekanizmasına sahip olması ve federal hükümetin kontrolden çıkmış yapay zeka modellerini kapatma konusunda açık bir yetkiye sahip olması zorunludur' dedi.

Nathaniel Moran ise 'Yapay zeka gelişmeye devam etmeli, ancak sorumlu geliştirme, insanların yarattıkları teknolojiyi kontrol etme yeteneğini korumaları gerektiği anlamına gelir' diye konuştu. Teklif ayrıca şirketlerin yapay zeka sistemleriyle ilgili olayları veya arızaları derhal Amerikan makamlarına bildirmesini zorunlu kılıyor. Bununla birlikte, aşamalı müdahale adımlarını içeren resmi bir kriz yönetim protokolü oluşturulması öngörülüyor.