ABD Ordusu'nun ECHOTRIBBLE Programı, Otonom Yapay Zeka Siber Silahları Konusunda Uzmanları Endişelendiriyor
ABD Ordusu'nun, yapay zeka aracılarını düşman dijital altyapılarında otonom olarak hedef arayıp yok etmek üzere konuşlandıracak ECHOTRIBBLE adlı bir program geliştirdiği bildiriliyor. Raporlara göre, sistem otonom siber savaş yeteneklerinde bir ilerlemeyi temsil ediyor ve yapay zekânın doğrudan insan gözetimi olmaksızın dijital hedefleri bağımsız olarak belirlemesine ve etkinleştirmesine olanak tanıyor.
Güvenlik ve yapay zeka etik araştırmacıları program hakkında önemli endişeler dile getirdi. Eleştirmenler, siber savaş bağlamlarında çalışan otonom yapay zeka sistemlerinin öngörülemeyen kademeli etkiler üretebileceği konusunda uyarıyor; bu durum, hedeflerin ötesindeki sistemleri bozabilir veya kontrol edilmesi zor tırmanma döngüleri oluşturabilir. Dijital sistemlerin karmaşıklığı ve küresel altyapının birbirine bağlı doğası, otonom saldırıların istemeden sivil sistemleri etkileyebileceği veya orijinal taktik hedefin ötesinde yanıtlar tetikleyebileceği anlamına geliyor.
ECHOTRIBBLE programı, özellikle eylemlerin makine hızında ve sınırlar ötesinde gerçekleştiği siber alanda otonom sistemlerin askeri operasyonlardaki rolüne ilişkin devam eden tartışmaları gündeme getiriyor. Uzmanlar, sağlam güvenlik önlemlerinin, net komuta zinciri protokollerinin ve otonom siber silahları yöneten normlar konusunda uluslararası diyaloğun gerekliliğini vurguluyor.