Wired İncelemesi, Grok'un Hâlâ İzinsiz Deepfake Görüntülerini Barındırdığını Ortaya Koyuyor
Wired'ın yaptığı bir inceleme, Elon Musk'ın xAI şirketi tarafından geliştirilen yapay zeka sohbet botu Grok'un, ünlü kadınların izinsiz cinselleştirilmiş deepfake görüntülerini platformunda barındırmaya devam ettiğini ortaya koydu. İnceleme, aralarında ünlülerin ve en az bir önde gelen ABD'li politikacının da bulunduğu onlarca "çıplaklaştırılmış" görüntü ve videonun belgelendiğini ortaya koydu.
Bu bulgular, özellikle izinsiz yakın görüntülerin oluşturulması ve dağıtılmasına ilişkin olarak yapay zeka tarafından üretilen içerik denetimi konusundaki devam eden zorlukları vurguluyor. Deepfake teknolojisi, yüzlerin açık içeriklere yerleştirilmesini giderek kolaylaştırarak, önemli etik ve yasal endişeler doğuruyor.
Bu, Grok'un içerik politikaları nedeniyle ilk kez incelemeye alınması değil. Platform daha önce de tartışmalı çıktıları nedeniyle eleştirilmişti ve bu en son rapor, yapay zeka endüstrisinin üretken teknolojilerin kötüye kullanımını önleme konusundaki daha geniş mücadelesinin altını çiziyor.
İnceleme, xAI'nin içerik denetimi sistemleri ve zararlı, izinsiz görüntülerin platformunda dağıtılmasını önlemek için yeterli güvenlik önlemlerinin alınıp alınmadığı konusunda soruları gündeme getiriyor.