ICRC, Sektörün Öz-Düzenlemesinin Yetersiz Kaldığı Savaşta Yapay Zekâya Yasal Sınırlar Koyulması Konusunda Devletlere Uyarıyor
Uluslararası Kızılhaç Komitesi (ICRC), hükümetlere askeri uygulamalarda yapay zekâyı yöneten bağlayıcı yasal çerçeveler oluşturma çağrısında bulunuyor ve teknolojinin silahlı çatışma sırasında sivillerin korunması için temel riskler oluşturduğu konusunda uyarıyor.
Bir politika pozisyon belgesinde ICRC, yapay zekânın savaşta kendi kendine sınır koymayacağını ve zararı önleme sorumluluğunun tamamen devletlere ait olduğunu savunuyor. Örgüt, yapay zekâ sistemlerinin bilgiyi işleyebildiğini ve benzeri görülmemiş hızda karar alabildiğini, ancak uluslararası insancıl hukukun gerektirdiği ahlaki yargı kapasitesinden yoksun olduğunu vurguluyor.
ICRC'nin temel kaygısı, anlamlı insan denetimi olmadan hedef seçebilen ve bunlara saldırabilen otonom silah sistemlerine odaklanıyor. Örgüt, bu tür sistemlerin insancıl hukukun temelini oluşturan ayrım (savaşanlar ve siviller arasında) ve orantılılık ilkelerini ihlal etme riski taşıdığını savunuyor.
Örgüt, askeri yapay zekâya yönelik kapsamlı bir yasak çağrısında bulunmuyor, bunun yerine devletlerin silah sistemleri üzerinde anlamlı insan denetimini sürdürmesi gerektiğinde ısrar ediyor. Bu, insanların savaş durumlarında yapay zekâ kararlarını anlayabilmesini, denetleyebilmesini ve gerekirse geçersiz kılabilmesini sağlamayı içeriyor.
ICRC'nin bu tutumu, otonom silahlardaki yönetişim boşluğuna ilişkin artan uluslararası endişeyi yansıtıyor. Bazı ülkeler ve şirketler gönüllü davranış kuralları getirmiş olsa da, örgüt bu önlemlerin sivilleri etkili bir şekilde korumak için gereken uygulanabilirliğe sahip olmadığını savunuyor.
Bu belge, diplomatların düzenleyici yaklaşımlar konusunda uzlaşmakta zorlandığı Birleşmiş Milletler'de ölümcül otonom silah sistemleri hakkında devam eden tartışmaların ortasında geldi.