Haber

Kaliforniya, Yapay Zeka Destekli İstihdam Kararları İçin İnsan Denetimini Zorunlu Kılıyor

Kaliforniya'daki işverenler, insan müdahalesi olmaksızın algoritmaların işten çıkarma kararları vermesine artık izin veremeyecek. Eyalet, iş yeri değerlendirmelerinde ve disiplin cezalarında yapay zekanın giderek artan kullanımını ele almak için savunucuların "dönüm noktası" olarak nitelendirdiği yasal düzenlemeleri kabul etti.

Yeni yasaya göre, bir yapay zeka sistemi işten çıkarma, görevden alma veya diğer önemli olumsuz istihdam eylemlerine yol açabilecek öneriler ürettiğinde, harekete geçmeden önce bir insan karar vericinin bu öneriyi bağımsız olarak incelemesi gerekiyor. Mevzuat, verimliliği izlemek, düşük performans gösteren çalışanları işaretlemek veya iş başvuru sahiplerini taramak için otomatik sistemleri kullanan şirketlerin artmasıyla birlikte giderek yaygınlaşan bir uygulamayı hedef alıyor.

Yasa, algoritmik araçların büyük miktarda veriyi işleme açısından verimli olurken, önyargıları sürdürebileceğini, şeffaflıktan yoksun olabileceğini veya itiraz edilmesi zor çıktılar üretebileceğine ilişkin artan endişeleri yansıtıyor. Çalışanlar genellikle otomatik sistemlerin performanslarını nasıl değerlendirdiklerini veya işlerine devam edip etmeme uygunluklarını nasıl belirlediklerini görme konusunda çok az görünürlüğe sahip.

Destekçiler, bu önlemin işletmelerin verimlilik artırıcı teknolojiyi kullanmasına izin vermek ile yüksek riskli istihdam kararlarında hesap verebilirliği sağlamak arasında bir denge kurduğunu savunuyor. Yapay zeka destekli işten çıkarma sistemlerinin eleştirmenleri, çalışanların ekip tabanlı çalışma ortamları veya sağlık izinleri gibi meşru durumları hesaba katmayan metriklere dayanarak işten çıkarıldığı örneklere dikkat çekti.

Kaliforniya'nın bu hamlesi, eyaleti istihdam sektöründe yapay zeka yönetişiminde bir lider olarak konumlandırıyor ve benzer yasal düzenlemeler diğer yargı alanlarında faaliyet gösteren işletmeler tarafından yakından takip ediliyor.

Kaynaklar