Araştırmacılar Meta Platformlarında 50'den Fazla Yapay Zeka ile Üretilmiş CSAM Reklamı Buldu
Araştırmacılar, şirketin kendi reklam kütüphanesi verilerinin analizine göre, Meta'nın uygulama ekosisteminde yayınlanan 50'den fazla reklamın yapay zeka ile üretilmiş çocuk istismarı içeriği (CSAM) içerdiğini keşfetti.
İhlal içeren reklamlar Facebook, Instagram, Messenger ve Threads'te yayınlandı; bazıları bu hafta içinde bile gösterilmeye devam etti. Bu keşif, platformların sentetik görüntüleri denetleme konusundaki devam eden zorluklarını ve özellikle yapay zeka ile üretilen içeriğin gerçek materyallerden ayırt edilmesinin gittikçe zorlaşmasını gözler önüne seriyor.
Meta, platformlarında CSAM'yi yasaklayan politikalar uyguladığını ve bilinen istismar içeriğini tespit etmek için hash eşleştirme teknolojisi ile diğer algılama yöntemlerini kullandığını belirtiyor. Ancak yapay zeka ile üretilen görüntüler, mevcut CSAM hash'leriyle eşleşmediğinden ve potansiyel olarak geleneksel tespit sistemlerini atlayabileceğinden, farklı bir zorluk oluşturuyor.
Bu bulgular, düzenleyicilerin ve teknoloji şirketlerinin küçükleri içeren yapay zeka ile üretilmiş açık içeriğin yaygınlaşmasını nasıl ele alacaklarını tartışırken ortaya çıktı. Bu tür görüntüler üretebilen araçların mevcudiyeti, platform denetleme çabalarının gelecekteki etkinliği konusunda çocuk güvenliği savunucuları arasında endişelere yol açtı.