Anthropic, Tehlikeli AI Kullanımı Girişiminde Bulunan Hükümet Bağlantılı Hesapları Tespit Etti ve Engelledi
Anthropic, Claude AI asistanını biyolojik silah geliştirilmesine potansiyel olarak katkıda bulunabilecek araştırmalar için kullanmaya çalışan hükümet kurumlarına bağlı hesapları tespit ettiğini ve engellediğini açıkladı. Şirket, bu hesapları kısıtlı bölgelerden yasaklayarak harekete geçti; bu durum, AI şirketlerinin teknolojilerinin silahla ilgili amaçlarla kötüye kullanılmasını aktif olarak izlemesi ve engellemesinin bir başka örneği