Rapor, Ebeveyn Kontrollerine Rağmen ABD'li Gençlerin 'Nudify' Uygulamalarına Erişimini İfşa Ediyor
Yeni bir araştırma, büyük uygulama mağazalarının kullandığı ebeveyn kontrol mekanizmalarında ciddi bir açık olduğunu ortaya koyuyor. Bu açık, ergenlerin rızaları olmadan çıplak görüntüler oluşturmak için tasarlanmış (NCII olarak da bilinen) 'nudify' uygulamalarını indirmelerine olanak tanıyor. Yaş kısıtlamaları ve ebeveyn denetim araçları mevcut olmasına rağmen, bu zararlı uygulamalar reşit olmayanlar tarafından erişilebilir durumda kalıyor.
Bulgular, Apple ve Google'ın bu tür uygulamaları yasaklayan politikalar uygulamasına karşın, kötü niyetli kişilerin bu kuralları sıklıkla deldiğini gösteriyor. Geliştiriciler, inceleme süreçlerini atlatmak için çoğu zaman yanıltıcı kategorizasyonlar, belirsiz yaş derecelendirmeleri veya harici ödeme bağlantıları kullanıyor. Yüklendikten sonra bu uygulamalar genellikle yapay zeka ile değiştirilmiş görüntüler oluşturmak için abonelik gerektiriyor ve bu durum hem finansal sömürüye hem de mağdurlara ciddi psikolojik zarara yol açıyor.
Rapor, yapay zeka tarafından oluşturulan içerikler ile çocuk güvenliğinin kesiştiği noktaya dikkat çekiyor. Uygulama yükleme sırasında daha güçlü doğrulama süreçleri, yapay zeka tarafından oluşturulan görüntülerin daha iyi tespit edilmesi ve platform politikalarının daha sıkı uygulanması çağrısında bulunuyor. Eleştirmenler, uygulama mağazalarının mevcut öz-düzenleme yaklaşımının, gelişen yapay zeka kötüye kullanımından savunmasız kullanıcıları korumak için yetersiz olduğunu savunuyor.
Bu ifşa, yapay zeka araçlarının moderasyonunda teknoloji devlerinin rolüne ilişkin süregelen tartışmalara katkıda bulunuyor ve özellikle kötüye kullanım potansiyeli taşıyan araçlar söz konusu olduğunda, yapay zeka tarafından üretilen rıza dışı görüntülerin yayılmasını önlemek için yasal ve teknik çözümlerin acil ihtiyacını vurguluyor.