Anthropic, bir sonraki yapay zeka nesline karşı uyarıyor ve geliştirmeye ara verilmesini talep ediyor

Yapay zeka konusunda uzmanlaşmış ABD merkezli Anthropic şirketi, giderek daha güçlü hale gelen yapay zeka sistemlerinin geliştirilmesine dünya çapında bir ara verilmesini talep ediyor. San Francisco merkezli şirket, web sitesinde yayınladığı bir açıklamada, yapay zeka alanındaki en ileri araştırmaların küresel ölçekte yavaşlatılmasının 'muhtemelen mantıklı' olacağını belirtti.

Anthropic, geliştirme duraklamasını, yapay zeka sistemlerinin gelecekte kendilerini geliştirip ilerletebilme olasılığına dayandırıyor. Kendini optimize edebilen bir yapay zekanın 'teknoloji tarihinde çığır açıcı bir gelişme' olacağını ifade eden şirket, bunun bilim ve sağlık alanında büyük faydalar sağlayabileceğini kabul ediyor.

Ancak Anthropic'e göre bu tür bir kendi kendini optimize etme, insanın yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de beraberinde getiriyor. Sistemlerin kendilerini geliştirebilecek hale gelmesi durumunda, insan müdahalesinin yetersiz kalabileceği uyarısında bulunuluyor.

Şirket, bir yandan da halka arz hazırlıkları yapıyor. Bu durum, yapay zeka geliştirmeye ara verilmesi çağrısıyla çelişkili gibi görünse de, Anthropic uzun vadeli güvenlik endişelerinin kısa vadeli ticari çıkarların önünde gelmesi gerektiğini savunuyor.