Önde Gelen AI Laboratuvarları, Güvenlik Denetimini Güçlendirmek İçin Yerleşik Denetçiler Öneriyor
Yapay Zeka Denetimi İçin Yeni Bir Model
Anthropic ve OpenAI'den bir grup bilim insanı, hükümetlerin düzenleyici denetçileri doğrudan yapay zeka geliştirme laboratuvarlarına yerleştirmesini ortaklaşa önerdi; bu öneri, geleneksel uyumluluk temelli denetimden önemli bir sapmayı temsil ediyor.
Temel argüman basit: Bir yapay zeka sistemi kamuya sunulduğunda, birçok potansiyel risk zaten tasarımına ve eğitimine işlenmiş durumda oluyor. Bilim insanlarının savunduğu gibi, sonradan yapılan denetimler, güvenlik endişeleri doğurabilecek ince geliştirme seçimlerini yakalamak için çok geç kalmış oluyor. Laboratuvarların içinde konuşlandırılan denetçiler, karar alma süreçlerini gerçek zamanlı olarak gözlemleyebilir, geliştirme aşamasında zor sorular sorabilir ve sorunlar büyümeden önce işaret edebilir.
Öneri, tescilli sistemlere sınırsız erişim çağrısında bulunmaktan kaçınıyor. Bunun yerine, denetçilerin bağımsızlığını korurken model mimarisi kararları, eğitim veri boru hatları ve değerlendirme protokolleri hakkında ayrıcalıklı içgörü elde etmesini sağlayan bir çerçeve sunuyor. Destekçileri, bu dengenin ticari gizliliği korurken anlamlı düzenleyici görünürlük sağladığını savunuyor.
Bu öneri, hükümetlerin sınır AI sistemlerini etkili bir şekilde düzenleme konusunda mücadele ettiği bir dönemde geliyor. Geleneksel düzenleyici kurumlar genellikle en son modelleri değerlendirecek teknik uzmanlıktan yoksunken, laboratuvar tabanlı uzmanlar da güvenliği kendileri sertifikalandırmaları istendiğinde çıkar çatışmasıyla karşı karşıya kalıyor. Tarafsız denetçilerin yerleştirilmesi, destekçileri tarafından her iki soruna da yapısal bir çözüm olarak görülüyor.
Ancak eleştirmenler pratik kaygılar öne sürüyor. Denetçilerin nasıl seçileceği, varlıklarının yenilik sürecini yavaşlatıp yavaşlatmayacağı ve birden fazla yargı alanında faaliyet gösteren şirketler için uluslararası koordinasyonun nasıl sağlanacağı konusunda sorular devam ediyor.
Bu modelin benimsenip benimsenmeyeceği, AB Yapay Zeka Yasası dahil olmak üzere gelecekteki yasal çerçevelerin uyumluluk ve denetim haklarını nasıl tanımlayacağına büyük olasılıkla bağlı olacak.