Meta'nın Yüzlerce Yapay Zeka Tarafından Üretilmiş Çocuk Cinsel İstismar İçerikli Reklamı Tespit Edemediği Bildirildi
Meta'nın otomatik içerik denetleme sistemlerinin, yapay zeka tarafından üretilmiş çocuk cinsel istismar materyallerini (CSAM) içeren yüzlerce reklamı tespit edemediği bildirildi. Yakın tarihli bir soruşturmayagöre, en az 350 reklam Meta'nın tespit sistemlerinden kaçtı ve bunların bazılarında gerçek çocukların görüntüleri—aralarında en az bir Avrupa kraliyet ailesi üyesinin görüntüsü de olmak üzere—kullanıldı.
Bu vaka, büyük teknoloji platformlarının özellikle çocukların cinselleştirilmesini tasvir eden içerikleri denetlemede karşılaştığı devam eden zorlukları ortaya koyuyor. Geleneksel fotoğraf eşleştirme sistemleri, mevcut görüntüleri kopyalamak yerine yeni görüntüler oluşturan yapay zeka tarafından üretilen görüntülere karşı sıklıkla etkisiz kalıyor.
Bu revelations'ın ardından, yasama yetkilileri Meta'nın içerik denetleme uygulamalarını ve şirketin çocuk güvenliği düzenlemelerine uyumunu soruşturmaya başlamayı düşündüklerini belirtti. Bulgular aynı zamanda mevcut tespit teknolojilerinin etkinliği ve yapay zeka tarafından üretilmiş CSAM'ın yayılmasını önlemede sosyal medya platformlarının sorumlulukları hakkında daha geniş sorular gündeme getiriyor.
Çocuk güvenliği örgütleri uzun süredir, üretken yapay zeka alanındaki ilerlemelerin istismar içerikli materyallerin üretimi ve dağıtımı için yeni vektörler yaratacağı konusunda uyarıyor ve bu ortaya çıkan tehditleri ele almak için hem geliştirilmiş tespit sistemleri hem de düzenleyici çerçeveler talep ediyor.