Anthropic, AI laboratuvarlarını durmaya çağırıyor, insanların kontrolü kaybetme riski konusunda uyarıyor

Anthropic, dünyanın önde gelen yapay zeka şirketlerine, gelişmiş AI sistemlerinin geliştirilmesini durdurmak için koordineli bir yol önererek, teknolojinin o kadar hızlı ilerlediği ve insanların kontrolü kaybetme riski bulunduğu uyarısında bulundu. Claude sohbet robotunun arkasındaki şirket, Perşembe günü yayınladığı blog yazısında, son teknoloji AI'nin görevleri giderek daha hızlı yerine getirdiğini belirterek, 'dünyanın gelişimini yavaşlatma veya geçici olarak durdurma seçeneğine sahip olmasının iyi olacağını' ifade etti.

Anthropic, iç araştırma enstitüsünün bu konuyu başkalarıyla işbirliği içinde araştırmayı ve güvenilir bir yavaşlama veya duraklama için sistemler oluşturmaya yardımcı olacak 'eylemler' almayı planladığını, ancak daha spesifik olmadığını söyledi. Anthropic'in rakibi OpenAI ise Çarşamba günü yayınladığı bir raporda farklı bir yaklaşımı savunarak, 'kuralları, güvenlik önlemlerini ve hesap verebilirlik mekanizmalarını nihai olarak özel şirketlerin değil, demokratik hükümetlerin belirlemesi gerektiğini' belirtti.

OpenAI, 'AI inovasyonunun hızına ilişkin kararların herhangi bir laboratuvar, şirket veya özel çıkar grubuna bırakılmaması gerektiğini' ifade etti. Anthropic, AI modellerinin, yazılım görevlerini (kodlama gibi) kendi başlarına ne kadar hızlı gerçekleştirebildiklerindeki hızlı artışla birlikte giderek hızlandığını belirtti. Mevcut eğilimlere ve yeterli bilgi işlem gücüne dayanarak, bir AI sisteminin 'özyinelemeli kendini geliştirme' olarak bilinen bir süreçle kendi halefini tasarlayıp geliştirebileceği uyarısında bulundu.