Anthropic, Bağımsız AI Güvenlik Değerlendirmeleri İçin METR'ye Çalışan Düzeyinde Derin Erişim İzni Verdi
Anthropic, AI sistemlerini değerlendirmeye odaklanan bir kuruluş olan METR'ye iç operasyonlarına çalışan düzeyinde erişim sağlayarak önemli bir şeffaflık girişimi duyurdu. Anlaşma kapsamında METR araştırmacıları, Anthropic'in güvenlik uygulamalarını, risk yönetimi prosedürlerini ve şirketin AI modelleriyle ilgili ortaya çıkan olayları kendi başlarına değerlendirebilecek.
Bu düzenleme, METR'ye sağladığı bağımsızlık derecesi açısından dikkat çekici. Anthropic, herhangi bir bulgusun yayınlanmasını engelleme veya bastırma hakkından feragat etti; bu da araştırma kuruluşunun sonuçların şirket lehine olup olmamasına bakılmaksızın değerlendirmelerini kamuoyuna açıklamasını sağlıyor. Bu, METR'yi sınır AI geliştirme konusunda gerçek içgörüye sahip bir dış denetçi konumuna getiriyor.
METR, gelişmiş AI sistemlerinin yeteneklerini ve potansiyel risklerini değerlendirmek için tasarlanmış değerlendirme çerçeveleri geliştirerek itibarını oluşturdu. Anthropic'in kendi çalışanlarına benzer doğrudan erişim elde ederek, kuruluş yalnızca dış gözlemle mümkün olandan çok daha kapsamlı ve nüanslı değerlendirmeler yapabiliyor.
Bu hamle, AI geliştirme hızı ile güvenlik hesap verebilirliğini nasıl dengeleyeceğimiz konusundaki devam eden endüstri tartışmasını yansıtıyor. Bunun gibi bağımsız değerlendirme mekanizmaları, düzenleyiciler, araştırmacılar ve kamuoyu dahil olmak üzere paydaşlara, sistemler daha yetenekli hale geldikçe önde gelen AI şirketlerinin riskleri nasıl yönettiklerine dair güvenilir, üçüncü taraf değerlendirmeleri sağlamayı amaçlıyor.