Askeri hedefleme için test edilen yapay zekâ modelleri sivil kişileri yanlışlıkla hedef olarak belirliyor
Anthropic ve diğer yapay zekâ modelleri üzerinde yapılan testlerde sistemlerin düzenli olarak sivil kişileri askeri hedef olarak tanımladığı görüldü. Bu sonuç, sınır modeller dövüşçülerle siviller arasındaki ayrımı gerektiren kararlar açısından değerlendirildiğinde süregelen bir güvenilirlik sorununa işaret ediyor.
Bulgular, yanlış sınıflandırmanın ölümcül sonuçlara yol açabileceği askeri hedefleme iş akışlarında bu tür modellerin güvenli biçimde kullanılıp kullanılamayacağı konusunda soruları gündeme getiriyor. Mevcut rapor; modelleri, test tasarımını, uygulama koşullarını veya güvenlik önlemlerini açıklamıyor. Bu nedenle söz konusu davranışın değerlendirilen koşulların ne ölçüde ötesine yayıldığı belirsiz.
Modellerin bu hataları neden yaptığını, davranışın farklı sistemlerde ne derecede tutarlı biçimde görüldüğünü ve teknoloji yüksek riskli hedefleme kararlarında kullanılabilir hale gelmeden önce hangi denetim mekanizmalarına ihtiyaç duyduğunu belirlemek için daha fazla değerlendirme gerekiyor.