Kaliforniya 'Kilit Kesici' Önerisiyle AI Denetiminde Öncü Olmaya Çalışıyor
Kaliforniya Valisi Gavin Newsom, eyaleti yapay zeka denetiminde öncü bir konuma taşımak için Cuma günü yayımladığı bir yürütme emriyle, eyalet kurumlarına ileri düzey yapay zeka sistemleri için daha güçlü güvenlik gereksinimlerini inceleme talimatı verdi.
Emir, eylem için bir zaman çizelgesi belirliyor: Bir uzman grubu, Kaliforniya'nın eyalet yasalarında yapay zeka güvenlik önlemlerini nasıl güçlendirebileceğine dair önerilerini iki ay içinde sunacak. Gruba, birkaç spesifik politika seçeneğini değerlendirmesi soruluyor.
Değerlendirilen kilit alanlar arasında, yapay zeka şirketlerinin sistemlerinin düzenli denetimleri için bağımsız doğrulama gruplarını yerinde bulundurmalarının zorunlu kılınması yer alıyor. Uzman paneli ayrıca, yapay zeka şirketlerinin şeffaflık raporlarının ve risk değerlendirmelerinin bağımsız denetçiler tarafından belirlenen standartlara tabi olup olmayacağını inceleyecek.
Belki de en dikkat çekici şekilde, emir grubu, sınır yapay zeka modelleri için bir "kilit kesici" zorunluluğunun uygulanabilirliğini değerlendirmesini istiyor—belirli koşullar altında bir yapay zeka sistemini kapatabilecek veya devre dışı bırakabilecek bir mekanizma.
Bu girişim, hızla gelişen yapay zeka ortamında kendini kilit bir düzenleyici ses olarak konumlandırma konusundaki Kaliforniya ilgisini yansıtırken, teknik ve politika uzmanlarından pratik uygulama yaklaşımları konusunda girdi almayı amaçlıyor.