Rus Geliştiricilerin Claude Kullanarak Otonom Savaş Drone Sürüleri Oluşturduğu Bildiriliyor
Yapay zeka ve savaşın kesişim noktasında endişe verici bir gelişme ortaya çıktı. Raporlara göre, Rus serbest çalışanlar otonom savaş drone sürüsü sistemlerini programlamada yardımcı olmak için Anthropic'in Claude yapay zeka modelini kullanmış. Bildirilen sistemlerin, doğrudan insan denetimi olmadan çalışan yapay zeka destekli hedef seçimi ve infilak işlevlerini etkinleştirmek üzere tasarlandığı belirtiliyor.
Otonom silah sistemlerinin geliştirilmesine yardımcı olmak için büyük dil modellerinin kullanılması, yapay zeka güvenlik önlemleri ve ihracat kontrollerinin mevcut durumu hakkında önemli sorular gündeme getiriyor. Büyük savunma kuruluşlarının dışında çalışan geliştiricilerin, kamusal olarak erişilebilir yapay zeka araçlarından yararlanarak otonom ölümcül yetenekler geliştirebildikleri bildiriliyor.
Anthropic, modellerinin silah geliştirme amaçlı kullanımını yasaklayan kullanım politikaları oluşturmuş olsa da, uluslararası düzeyde bağımsız veya serbest çalışan geliştiriciler üzerinde bu tür politikaları uygulamak önemli zorluklar oluşturuyor. Yapay zeka yeteneklerinin geniş çaplı erişilebilirliği, etkili denetim sağlamanın zorluğunu bir kez daha gözler önüne seriyor.
Bu gelişme, otonom silahların sorumlu geliştirilmesi ve konuşlandırılması konusundaki devam eden tartışmaları vurguluyor. Ölümcül otonom silah sistemleri (LAWS) konusundaki uluslararası görüşmeler, temel teknolojiler hızla ilerlemeye devam ederken, silah sistemlerinde anlamlı insan denetimi konusunda bağlayıcı anlaşmalar üretmeyi henüz başaramadı.
Uzmanlar uzun süredir yaygın olarak erişilebilir yapay zeka araçlarının, otonom silah geliştirmek isteyen aktörler için engelleri düşürebileceği konusunda uyarmıştı. Bu vaka, bu endişeyi pratikte somutlaştırıyor gibi görünüyor. Bu olay, otonom ölümcül sistemlerin geliştirilmesini yöneten daha güçlü uluslararası çerçeveler için yenilenmiş çağrıları tetikleyebilir.