ICO, Şirketlerin Özerk Yapay Zeka Kararlarından Sorumlu Olduğunu Açıkladı
Birleşik Krallık Bilgi Komiserliği (ICO), şirketlerin yapay zeka sistemlerinin "özerk" yeteneklerine atıfta bulunarak veri koruma sorumluluklarından kendilerini aklayamayacaklarını açıklığa kavuşturan bir rehberlik yayımladı. ICO'nun bu tutumuna göre, bu sistemlerin ne kadar bağımsız çalıştığı önemli olmaksızın, yapay zeka kullanan kuruluşlar bu sistemlerin verdiği kararlardan sorumlu olmaya devam ediyor.
Bu rehberlik, düzenleyici ortamda giderek artan bir endişeye yanıt niteliğinde: Yapay zeka sistemleri daha fazla karar verme rolü üstlendikçe, bazı kuruluşlar yapay zekalarının özerk doğasını vurgulayarak sorumluluğu üstlerinden atmaya çalıştı. ICO'nun bu tutumu, kişisel verilerin işlenmesinde şeffaflık, adalet ve hesap verebilirlik dahil olmak üzere veri koruma yükümlülüklerinin, yapay zeka sistemi minimum insan müdahalesiyle çalıştığı için azalmadığını pekiştiriyor.
Yapay zeka kullanan işletmeler için bu, uyum gerekliliklerinin yapay zekanın tüm yaşam döngüsü boyunca devam ettiği anlamına geliyor. Şirketler, özerk olarak tanımlanan sistemler tarafından alınan kararlar söz konusu olduğunda bile uygun belgeleri korumalı, veri koruma etki değerlendirmeleri yapmalı ve bireylerin otomatik kararlarla ilgili haklarını kullanabilmelerini sağlamalıdır.
ICO'nun bu tutumu, yapay zeka sistemlerinin karmaşıklığı veya özerkliğinin, onları kullanan kuruluşlardan yasal sorumluluğu devretmediğini vurgulayan daha geniş düzenleyici trendlerle uyumlu. Firmalar, sistemlerinin nasıl nitelendirildiğinden bağımsız olarak sonuçlar için hesap verebilirliği açıkça gösterebildiklerinden emin olmak için yapay zeka yönetişim çerçevelerini gözden geçirmelidir.