Yapay Zeka Tarafından Oluşturulan Sahte Fenomenler, İnternette Toplu Üretim Ürünleri Satmak İçin Kullanılıyor
Sosyal medya platformlarında endişe verici bir trend ortaya çıkıyor: Yapay zeka tarafından oluşturulan sahte fenomenler, genellikle toplu üretim ürünleri satmak için kullanılıyor ve belirli demografik gruplara hitap etmek için siyahi kadınları tasvir ediyor.
Bu sentetik kişilikler, uydurma geçmiş hikayeleri ve duygusal çekicilikleri içeren, otantik görünmek üzere tasarlanmış. Bir örnekte, 'Aliyah' adı verilen yapay zeka tarafından oluşturulan bir karakter — kırsal kesim kıyafetleri içinde açık tenli siyahi bir kadın olarak tanımlanan — izleyicilere varsayılan el yapımı kemer tokası işini desteklemeleri için ağlayarak yalvaran videolarda görünüyor.
Ancak araştırmalar, ne bu fenomenlerin ne de varsayılan el yapımı ürünlerinin gerçek olmadığını ortaya koyuyor. Bu hesaplar, yapay zeka tarafından oluşturulan yüzler ve kişilikler kullanarak, genellikle Shein gibi perakendecilerden toplu olarak ithal edilen ucuz, toplu üretim ürünlerini satan koordineli dropshipping operasyonlarının bir parçası.
Bu uygulama, kullanıcıların içerik üreticilerine — özellikle belirli kimlikler etrafında otantik izleyici kitleleri oluşturmuş olabilecek yeterince temsil edilmemiş topluluklardan gelenlere — duyduğu güveni istismar ediyor. Gerçek insanları taklit eden yapay zeka tarafından oluşturulan kişilikler kullanarak, bu operasyonlar herhangi bir gerçek temsil olmaksızın varsayılan kültürel bağlantılardan yararlanıyor.
Bu trend, yapay zekanın inandırıcı sahte kişilikler oluşturma kolaylığı, platformların sentetik içeriği tespit etmede karşılaştığı zorluklar ve bu tür uygulamaların otantik içerik üreticisi ekonomilerini baltalama potansiyeli konusunda daha geniş endişeleri gözler önüne seriyor. Yapay zeka tarafından oluşturulan içerik daha sofistike hale geldikçe, gerçek ve yapay fenomenler arasında ayrım yapmak sıradan kullanıcılar için giderek daha zorlaşıyor.