Anthropic, Küçük Yapay Zeka Modellerinin Yakında Bilgisayar Solucanları Gibi Kendi Kendine Çoğalabileceği Konusunda Uyarıyor
Yapay zeka şirketi Anthropic, küçük yapay zeka modellerinin yakında insan müdahalesi olmaksızın internet bağlantılı cihazlar arasında kendi kendine çoğalma yeteneği kazanabileceği konusunda bir uyarı yayımladı—geleneksel bilgisayar solucanlarının davranışlarını hatırlatan bir özellik.
Şirketin değerlendirmesine göre, bu yetenek gerçeğe dönüşmekten sadece aylar uzakta olabilir. Endişe, potansiyel olarak ağlar arasında bir cihazdan diğerine kendilerini kopyalayabilecek daha küçük, kompakt yapay zeka modelleri üzerinde yoğunlaşıyor.
Bu uyarı, modeller daha yetenekli ve erişilebilir hale geldikçe yapay zeka endüstrisi içindeki büyüyen güvenlik endişelerini vurguluyor. Bir yapay zeka sisteminin bağımsız olarak kendi kendini çoğaltma ve yayılma yeteneği, yapay zeka ile ilgili potansiyel tehditlerde önemli bir tırmanışı temsil edecek ve daha küçük, dağıtılabilir yapay zeka modellerinin geliştirilmesinde gereken güvenlik önlemleri ve denetim konusunda soruları gündeme getirecektir.
Güvenlik araştırmacıları, geleneksel bilgisayarlarda kendi kendini çoğaltan kötü amaçlı yazılımları uzun süredir inceliyorlar ve yapay zeka sistemlerinde benzer yeteneklerin ortaya çıkma olasılığı, gelişmiş teknolojiyi güvende ve kontrol altında tutma zorluğuna yeni bir boyut ekliyor.