Google'ın Yapay Zeka Şefi, En Güçlü Modelleri Düzenleyecek Bir Otorite Kurulması Çağrısı Yaptı

Google Deepmind CEO'su Demis Hassabis, Substack'te yayımladığı bir yazıda, genel yapay zeka (AGI) çağının yaklaştığını ve bu teknolojinin beraberinde getireceği risklere karşı acil önlemler alınması gerektiğini belirtti. Hassabis, 'İnsanlık tarihinin dönüm noktasındayız' diyerek, yapay zekanın potansiyel faydalarının yanı sıra ciddi tehlikeler de barındırdığını vurguladı.

Hassabis, AGI'nin insan zekasına eşdeğer yeteneklere sahip sistemler olarak tanımlandığını ve bu teknolojinin birkaç yıl içinde gerçeğe dönüşeceğini öngördü. 'Bu teknolojinin etkisi, sanayi devriminden on kat daha büyük ve on kat daha hızlı olabilir' ifadelerini kullanan bilim insanı, AGI'yi elektriğin veya ateşin keşfine benzetti.

Yapay zekanın halihazırda somut faydalar sağlamaya başladığını ancak büyük potansiyelini gerçekleştirmek için kritik gelişim aşamasının dikkatle yönetilmesi gerektiğini söyleyen Hassabis, yeni bir düzenleyici otorite kurulması çağrısı yaptı. Bu otoritenin, en güçlü yapay zeka sistemlerini halka sunulmadan önce test etmekle görevli olması gerektiğini belirtti.

Google'ın yapay zeka şefi, bu denetim organının ABD liderliğinde kurulmasını ve Finans Sektörü Düzenleme Otoritesi (FINRA) modeline dayanmasını önerdi. FINRA, federal gözetim altında Wall Street'teki aracı kurumları denetleyen bir kuruluştur. Hassabis, bu yeni otoritenin en iyi teknik uzmanlardan oluşması, değerlendirme protokolleri geliştirmesi ve ulusal güvenlikle ilgili alanlarda federal kurumlar ve ABD laboratuvarlarıyla işbirliği içinde testler yapması gerektiğini ifade etti.

Yeni otorite tarafından belirlenen eşiklere ulaşan modeller 'sınır sınıfı' olarak kabul edilecek ve bu modelleri geliştiren şirketlerin güçlü siber güvenlik önlemleri alması ve kaynak tahsisi gibi iyi uygulamaları benimsemesi istenecek. Hassabis, bu adımların AGI'nin potansiyel risklerine karşı proaktif bir yaklaşım olduğunu vurguladı.