Anthropic Hızlanan Yapay Zeka Öz-İyileştirmesi Konusunda Uyarıyor, Geliştirme Güvenlik Önlemleri İstiyor
Anthropic, Claude yapay zekasının ilerleme hızı konusunda endişelerini dile getirdi ve sistemin artık birleştirilen kodların yüzde 80'inden fazlasını yazdığını bildirdi. Bu düzeydeki özerk kod üretimi, şirketi sınır geliştirme çalışmalarını durdurma veya yavaşlatma seçeneğinin sunulmasını talep etmeye yöneltti; özyinelemeli öz-iyileştirmenin, insanların ileri düzey yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini artırabileceği konusunda uyarıda bulundu.
Şirket, riskler yönetilemez hale geldiğinde yapay zeka geliştirmesini duraklatma veya yavaşlatma imkanı sağlayacak güvenlik önlemlerini savunuyor. Anthropic'in uyarısı, yapay zeka yeteneklerinin sınırlarını zorlamak ile yeterli güvenlik önlemlerinin yerinde kalmasını sağlamak arasındaki artan gerilimi gözler önüne seriyor.