Rapor, VA Klinik Personelinin Üretken Yapay Zeka Araçlarını Yeterli Denetim Olmadan Benimsediğini Ortaya Koyuyor
Bir devlet denetim kuruluşu, Amerika Birleşik Devletleri Gaziler İdaresi'ndeki (VA) klinik personelin, VA Teftiş Kurulu'nun raporuna göre, yeterli denetim olmadan üretken yapay zeka araçlarını kullanmaya başladığını tespit etti.
Soruşturma, personel üyelerinin yeterli yönetişim yapıları, politikalar ve güvenlik önlemleri oluşturulmadan yapay zeka teknolojilerini klinik ortamlarda uygulamaya başladığını ortaya koydu. Bu denetim eksikliği, hasta bakımı ve veri gizliliğini potansiyel olarak riske atıyor.
İzleme raporu, birkaç endişeyi vurguladı:
- Yapay zeka aracı doğruluğunu ve güvenilirliğini değerlendirmek için yetersiz inceleme süreçleri
- Hasta bakımı kararlarında yapay zeka kullanımını yöneten net rehberlik eksikliği
- Yapay zeka sistemlerinin hasta bilgilerini nasıl işlediği konusunda veri güvenliği endişeleri
- Bu araçları kullanan klinik personel arasındaki eğitim boşlukları
Bu bulgular, yapay zeka araçlarının hızla yaygınlaşması ve güvenli dağıtımı sağlamak için gereken düzenleyici çerçevelerin ve kurumsal politikaların gelişimini sıklıkla geride bırakması nedeniyle sağlık kuruluşlarının karşı karşıya olduğu daha geniş bir zorluğun altını çiziyor.
Rapor, VA'nın kapsamlı yapay zeka yönetişim politikaları oluşturmasını, klinik ortamlarda kullanılan yapay zeka araçları için zorunlu inceleme süreçlerini uygulamasını ve personele uygun eğitim sağlamasını öneriyor.