ABD Hükümeti, Güvenlik Endişeleri Nedeniyle Anthropic'i Fable 5 Modellerini Çekmeye Zorladı
ABD hükümeti, Anthropic'in en yeni yapay zeka modelleri olan Fable 5 ve Mythos 5'i kamuya açık erişimden kaldırmaya zorladı. Bu karar, Amazon araştırmacılarının Fable 5'in yerleşik güvenlik önlemlerini atlatmanın yollarını bulduğu bildirildikten sonra ulusal güvenlik endişeleri gerekçesiyle alındı.
Bu karar, siber güvenlik topluluğundan keskin eleştiriler aldı. Araştırmacılar, hükümetin hamlesini tehlikeli olarak nitelendiren ve yapay zeka modellerine erişimin kısıtlanmasının gerekli güvenlik araştırmalarını ve alandaki şeffaflığı engelleyebileceğini savunan açık bir mektup imzaladı.
Anthropic'in kendisi de duruma ilişkin görüşlerini paylaşarak, Fable 5'in güvenlik önlemlerini atlatmak için kullanılan aynı jailbreak tekniklerinin şu anda kamuya açık olan diğer yapay zeka modellerinde de mevcut olduğunu belirtti. Bu durum, yasağın özellikle Anthropic modellerini mi hedef aldığı yoksa yapay zeka güvenlik mekanizmalarıyla ilgili daha geniş bir endişeyi mi yansıttığı sorularını gündeme getiriyor.
Bu olay, hükümetin güvenlik kaygıları ile yapay zeka geliştirme konusundaki açık araştırma topluluğunun yaklaşımı arasındaki devam eden gerilimi vurguluyor. Düzenleyiciler gelişmiş yapay zeka sistemlerinin potansiyel kötüye kullanımını önlemeye çalışırken, güvenlik araştırmacıları, güvenlik açıklarını belirlemek ve düzeltmek için işbirlikçi açıklama ve kamu denetiminin vazgeçilmez olduğunu savunuyor.