Anthropic, ABD Hükümeti Emirleri Sonrasında Claude Fable 5'i Durdurdu
Anthropic Claude Fable 5'i Durduruyor
Anthropic, ABD hükümeti emirlerine uymak için Claude Fable 5'i çevrimdışı bırakacağını duyurdu. Şirket, yetkililerin modelin güvenlik önlemlerini atlamak için kullanılabileceğine inandıkları bir yöntem tespit ettiklerini belirtti. Bu yöntem yaygın olarak "jailbreak" olarak adlandırılıyor.
Anthropic bir blog yazısında, hükümetin Fable 5'teki potansiyel güvenlik açıklarıyla ilgili endişelerini dile getirdiğini ve bu açıkların güvenlik sistemlerinin aşılması için kullanılabileceğini ifade etti. Modeli kapatma kararı, şirket durumu değerlendirirken kötüye kullanımı önlemek için alınan önleyici bir tedbir gibi görünüyor.
Bu eylem, özellikle güvenlik önlemlerinin aşılması durumunda risk oluşturabilecek öncü modeller etrafında, yapay zeka geliştirme ile hükümet denetimi arasındaki devam eden gerginlikleri vurguluyor. Anthropic, Fable 5'in geliştirilmiş güvenlik önlemleriyle geri dönüp dönmeyeceğini veya kalıcı olarak durdurulup durdurulmayacağını henüz açıklamadı.