Anthropic, Büyük Hasar Eşikleri İçeren AI Güvenlik Yasa Tasarısı Önerdi
Anthropic, hükümetin AI geliştirme sürecine müdahalesi için yüksek bir eşik belirleyecek bir yasa tasarısı taslağı ortaya koydu. Bu çerçeve altında Ticaret Bakanlığı, AI modelini durdurmaya yetkili birincil federal kurum haline gelecek; ancak bu yetki yalnızca şirketin "felaket" olarak tanımladığı risklerin söz konusu olduğu durumlarda kullanılabilecek.
Tasarı belirli tetikleme koşulları belirliyor: Müdahale, bir AI modelinin 50 veya daha fazla ölüme neden olma potansiyeli taşıması veya en az 1 milyar dolarlık hasara yol açması durumunda gerçekleşecek. Anthropic, bu yaklaşımın günlük AI kullanımından kaynaklanabilecek daha yaygın zararlardan ziyade en ciddi, düşük olasılıklı riskleri hedeflediğini savunuyor.
Yasa tasarısı, hızla gelişen AI sistemlerinin nasıl düzenlenmesi gerektiği konusundaki süregelen tartışmaları yansıtıyor. Claude AI modeli ailesiyle tanınan Anthropic, yetenek geliştirmenin yanı sıra güvenlik araştırmalarını ön planda tutan bir şirket olarak konumlanıyor. Bu kadar yüksek bir hasar eşiği içeren bir çerçeve önererek, şirketin AI geliştirme üzerinde geniş kısıtlamalar getirmek yerine felaket sonuçların önlenmesine odaklanan hedefli bir düzenleyici yaklaşımı savunduğu görülüyor.
Teklif, AI model durdurma yetkisini tek bir kurum olan Ticaret Bakanlığı'nda yoğunlaştırarak denetimi birden fazla düzenleyici kurum arasında dağıtmak yerine tek elde topluyor. Bu merkezileşmenin destekçilerine göre, gerçekten tehlikeli AI sistemlerine yönelik acil müdahaleleri hızlandırırken daha yavaş ve parçalı düzenleyici süreçlerden kaçınılabilir.
Yasa tasarısı henüz Kongre'ye sunulmadı ve AI yönetişimi konusundaki tartışmalar devam ederken teklifin, milletvekilleri, sivil özgürlük grupları ve rekabet halindeki sektör çıkarlarından oluşan çeşitli kesimlerin incelemesine tabi olması muhtemel.