Yakın Gerçeklik mi Yoksa 'Korku Pazarlaması' mı? Anthropic, Yapay Zeka Gelişiminin Durdurulması Çağrısı Yapıyor

Anthropic, düşünce kuruluşu tarafından yayınlanan uzun bir metinde, yapay zekaların yakın gelecekte kendi kendini üretebileceği ve dolayısıyla kendilerini geliştirebileceği riskine dikkat çekiyor. Bu tehlike, insanlığın kontrolü kaybetmesiyle sonuçlanabilir. Girişim, sektörü yapay zeka gelişimini yavaşlatmak veya durdurmak için koordinasyona çağırıyor.

Anthropic, ABD'nin önde gelen yapay zeka şirketlerinden biri, Perşembe günü bu teknolojinin öncülerinin gelişimi yavaşlatmak veya durdurmak için anlaşabileceği bir sistem fikrini ortaya attı. Şirket, 'toplumsal yapıların ve uyum araştırmalarının teknolojideki ilerlemelere ayak uydurmasına izin vermek' için zamana ihtiyaç olduğunu savundu. Yapay zeka sektöründe uyum, bu araçların insanların istediği gibi davranmasını ve değerlerine saygı göstermesini sağlamayı amaçlayan bir araştırma alanını ifade ediyor.

Chatbot'u Claude ile tanınan Anthropic, önerisini açıklamak için özellikle sürekli gelişen yapay zekalarla 'kontrol kaybı' riskine dikkat çekiyor. Birkaç yıl içinde, soruları yanıtlayabilen sohbet robotlarından, bizim yerimize kod yazabilen ve diğer görevleri yerine getirebilen ajanlara geçildi. İnsanlık için faydalı olan bu ilerlemeler, aynı zamanda girişimin 'özyinelemeli kendini geliştirme' olarak adlandırdığı noktaya yol açarak tehlikeli de olabilir. Yani yapay zeka sistemlerinin, insan rolünün azaldığı bir şekilde kendi haleflerini eğitebileceği nokta.

Genç girişim, iddialarını yalnızca yapay zeka modellerinin ilerlemesini değil, aynı zamanda bu gelişme hızının ivmelenmesini gösteren dahili verilerle destekliyor. Mart 2024'te Claude Opus 3, bir insanın yaklaşık dört dakikasını alan yazılım görevlerini yerine getirebiliyordu. İki yıl sonra, Claude Sonnet 3.7, bir bireyin 12 saatlik çalışmasını gerektiren görevleri üstlenebiliyor. Bir sonraki adım, özellikle bilim ve sağlık alanlarında tüm dünyaya faydalı olabilecek büyük bir atılım olan, kendi kendini üretebilen bir yapay zekayı içerecek. 'Ancak, bu tam özyinelemeli kendini geliştirme, insanın yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de artırabilir' diye uyarıyor şirket. 'Eğer bu sistemler kendi haleflerini tamamen inşa edebilirse, kullanılan araçlar...'