AI Çocuk Hikâyeleri Belirgin Bir Toplumsal Cinsiyet Yanlılığı Gösteriyor: Hayvan Masallarında Dişi Karakterler Kayboluyor
Hayvan karakterleri içeren AI tarafından oluşturulan çocuk hikâyelerini inceleyen yeni bir çalışma, önemli bir toplumsal cinsiyet dengesizliğini ortaya çııkardı. Araştırmacılar birçok önde gelen AI modelini test etti ve hayvan karakterleri içeren hikâyeler yazmaları istendiğinde modellerin ağırlıklı olarak erkek zamirleri kullandığını—sıklıkla belirli bir cinsiyet belirtilmediğinde bile "o" (erkek) zamirine başvurduğunu buldu.
Bulgular, AI sistemlerinin toplumsal cinsiyet bilgisini nasıl işlediğini ve yeniden ürettiğini gösteren sorunlu bir örüntüyü yansıtıyor. Gerçek hayvan popülasyonlarında cinsiyet oranları tipik olarak dengeli veya birçok türde dişi ağırlıklıdır. Buna rağmen AI tarafından oluşturulan hikâyeler güçlü bir erkek yanlılığı gösteriyor; dişi karakterler erkek karşılıklarından çok daha az sıklıkta görünüyor.
Uzmanlar bu yanlılığın, daha fazla erkekle ilişkilendirilen dil kalıpları ve belirli arketipleri erkeklikle bağlantılandıran kültürel örüntüler içeren eğitim verilerinden kaynaklandığını öne sürüyor. Modeller, hayvan karakterlerini varsayılan olarak erkek zamirleriyle ilişkilendirmeyi öğrendi; bu da çocuklar bu içerikle karşılaştığında erken yaşta stereotipleri pekiştirebilecek bir örüntü.
Araştırmacılar, özellikle çocukları hedef alan içerikler için üretken AI çıktılarındaki bu tür yanlılıkları tespit etmek üzere daha iyi değerlendirme çerçeveleri talep ediyor. Bu çalışma, AI sistemlerinin dengeli bakış açıları sunmak yerine toplumsal yanlılıkları sürdürebileceğine ve artırabileceğine dair artan endişelere katkıda bulunuyor.