Haber

Federal Denetçi, SBA'nın YZ Dolandırıcılık Tespit Pilot Programında Koruma Önlemlerinin Eksik Olduğunu Buldu

Federal denetim soruşturması, Küçük İşletme İdaresi'nin dolandırıcılığı tespit etmek için yapay zeka kullanımı konusunda endişeler gündeme getirdi. Yerel Denetçi Ofisi (OIG), SBA'nın YZ dolandırıcılık tespit pilot programının doğruluk, adalet ve hesap verebilirlik sağlamak için yeterli koruma önlemleri olmaksızın uygulamaya konulduğunu tespit etti.

OIG raporu, kurumların uygun denetim mekanizmaları olmadan YZ sistemleri devreye aldığında görülen tipik zorlukları vurguluyor. Bu tür koruma önlemleri tipik olarak şeffaflık tedbirlerini, önyargı test protokollerini, insan inceleme süreçlerini ve YZ tarafından üretilen işaretlerin nasıl ele alınacağına dair net yönergeleri içerir.

Bulgular, federal hükümette devam eden bir endişeyi ortaya koyuyor: kurumlar verimliliği artırmak için YZ araçlarını giderek daha fazla benimserken, uygulama hızını uygun risk yönetimiyle dengelemelidir. Potansiyel dolandırıcılığı belirleme gibi yüksek riskli kararlarda kullanılan YZ sistemleri, hatalı sonuçlar üretirlerse işletmeler ve bireyler için ciddi sonuçlar doğurabilir.

Federal denetçiler, kurumların YZ'yi devreye almadan önce yönetişim çerçeveleri oluşturması konusunda defalarca çağrıda bulundu ve otomatik sistemlerin hassas konularda insan yargısını tamamlamasını, değil de değiştirmesini sağladı.

Kaynaklar