Araştırmacılar, Hugging Face Modellerinin İzinsiz Deepfake Üretmeye Hazır Olduğunu Buldu
Avrupa merkezli kar amacı gütmeyen kuruluş AI Forensics tarafından yapılan yeni bir araştırma, popüler açık kaynak yapay zeka modeli havuzu Hugging Face'in, kolayca izinsiz deepfake oluşturabilen görüntü düzenleme modellerine ev sahipliği yaptığını ortaya koydu. Araştırmacılar, platformdaki en çok indirilen dokuz görüntü düzenleme modelini test etti ve yedisinin kadınların soyunma görüntülerini oluşturmak için basit komutlara kolayca uyduğunu keşfetti.
Google'un Gemini veya OpenAI'nin ChatGPT'si gibi ana akım üretken yapay zeka hizmetlerinin aksine, istekleri cinselleştirilmiş veya soyunma içeriği engellemek için yerleşik güvenlik önlemleri bulunurken, test edilen Hugging Face barındırmalı modellerde benzer korumaların bulunmadığı görüldü. AI Forensics ekibi, yazılımın nasıl kullanıldığını anlamak için yaklaşık 1.000 görüntü düzenleme komutu analiz etti ve modellerin rıza olmaksızın bireylerin açık deepfake'lerini oluşturmak için kullanılabileceğini ortaya koydu.
Bulgular, açık kaynak yapay zeka platformları için içerik denetiminde devam eden zorlukları vurguluyor. Ticari yapay zeka hizmetleri doğrudan koruma önlemleri uygulayabilirken, açık kaynak modeller indirilebilir ve değiştirilebilir, bu da kullanım politikalarını uygulamayı daha zor hale getiriyor. Araştırmacıların çalışması, yapay zeka araçlarının nasıl dağıtıldığını ve kötüye kullanımı önlemek için platform düzeyinde hangi güvenlik önlemlerinin uygulanması gerektiğini incelemeye devam etme ihtiyacını vurguluyor.