Anthropic Gelişmiş Yapay Zeka Geliştirilmesinde Gönüllü Yavaşlatma Önerisinde Bulunuyor
Anthropic, yapay zeka şirketlerinin en ileri düzey yapay zeka sistemlerinin geliştirilmesinde gönüllü bir yavaşlatma düşünmelerini öneriyor. Şirket, öncü yapay zeka modellerinin kısa süre içinde kendi ardıllarını bağımsız olarak geliştirebilme kapasitesine kavuşabileceği konusunda uyarıyor ve bu durum ciddi güvenlik endişelerini beraberinde getiriyor.
Bu öneri, yapay zeka yeteneklerinin sektör genelinde hızla ilerlemeye devam ettiği bir dönemde geliyor. Anthropic'in bu tutumu, kendini geliştiren yapay zeka sistemlerinin, sektör genelinde koordineli bir aksiyon olmadan yönetilmesi zor olabilecek riskler oluşturabileceğini ima ediyor.
Bu öneri, büyük bir yapay zeka laboratuvarının kamusal duruşunda dikkate değer bir değişimi temsil ediyor; rekabetçi ilerleme stratejisinden potansiyel olarak kolektif bir sınırlama yaklaşımına doğru bir kayma söz konusu. Bu yaklaşım, rekabet halindeki şirketler arasında güven ve koordinasyon gerektirecek olup, pratikte uygulanması zorlu olabilir.