Kaliforniya, Bildirilmemiş Yüksek Riskli Yapay Zeka Sistemlerini Kabul Etti
Kaliforniya eyalet hükümeti, yüksek riskli yapay zeka sistemleri kullandığını kabul etti. CalMatters araştırmasına göre bu sistemlerden en az bir kategorisi, geçen yıl sunulan zorunlu raporlarda yer almıyordu.
Bu itiraf, vatandaşların hayatını etkileyebilecek otomatik sistemlerin nasıl kullanıldığına ilişkin artan incelemelerin ortasında geldi. Yüksek riskli yapay zeka sistemleri genellikle bireylerle ilgili önemli kararları veren veya bu kararları etkileyen algoritmaları ifade ediyor.
Bu açıklama, kurumların otomatik sistem kullanımını raporlamasını zorunlu kılan Kaliforniya'nın yapay zeka şeffaflık gereksinimlerine uyum konusundaki devam eden zorlukları ortaya koyuyor. Bazı sistemlerin önceki başvurularda yer almaması, mevcut envanter süreçlerinin yeterliliği konusunda endişelere yol açıyor.
Eyalet yetkilileri, bildirilmemiş sistemlerin tespit edilerek resmi envantere eklendiğini belirtti. Ancak bu olay, bu teknolojiler kamu sektörü operasyonlarına daha fazla entegre oldukça, hükümetlerin kendi yapay zeka dağıtımlarını takip etmede karşılaştığı zorlukları vurguluyor.
Uzmanlar uzun zamandır, güçlü denetim mekanizmaları olmadan yüksek riskli yapay zeka sistemlerinin önyargıları sürdürebileceğini, hatalı sonuçlar üretebileceğini veya uygun insan denetimi olmadan çalışabileceği konusunda uyarıyor. Kaliforniya'nın bu kabulü, yapay zeka raporlama gereksinimlerinin daha güçlü uygulanması ve devlet algoritmalarının bağımsız denetimi için yeniden çağrılar yapılmasına yol açabilir.