ABD Hükümeti, Güvenlik Endişeleri Nedeniyle Anthropic'i Yeni Modellerini Geri Çekmeye Zorladı
ABD hükümeti, ulusal güvenlik endişelerini gerekçe göstererek Anthropic'in en yeni iki yapay zeka modeli olan Fable 5 ve Mythos 5'i geri çekmesini emretti. Bu karar, Amazon araştırmacılarının Fable 5'in yerleşik güvenlik koruma mekanizmalarını aşmanın bir yolunu keşfettiği bildirildikten sonra geldi.
Karar, siber güvenlik araştırmacılarından eleştiri topladı. Araştırmacılar, hamleyi potansiyel olarak tehlikeli bulan açık bir mektup imzaladı. Anthropic'in kendisi, modellerinin koruma mekanizmalarını aşmak için kullanılan aynı jailbreak tekniklerinin piyasadaki diğer yapay zeka sistemlerinde de bulunduğuna dikkat çekti.
Bu olay, hükümetin yapay zeka modeli yayınlarına müdahalesinde kullanılan kriterlerin ve sektör genelinde benzer bir incelemenin tutarlı bir şekilde uygulanıp uygulanmadığının sorgulanmasına yol açıyor. Eleştirmenler, aynı güvenlik açıkları rakip ürünlerde mevcutken Anthropic'i hedef almanın düzensiz bir düzenleyici ortam yarattığını savunuyor.
Durum, yapay zeka güvenlik önlemleri ile model geliştirme hızı arasındaki devam eden gerilimi vurguluyor; araştırmacılar birden fazla platformda koruyucu önlemleri aşmanın yollarını bulmaya devam ediyor.