Dava, xAI'nin Grok Modellerini Çocuk Cinsel İstismar Materyali ile Eğittiğini İddia Ediyor
Dava, xAI'nin Yapay Zeka Eğitiminde CSAM Kullandığını İddia Ediyor
Elon Musk tarafından kurulan yapay zeka şirketi xAI hakkında açılan yeni bir federal dava, şirketin Grok yapay zeka modellerini çocukların cinsel istismarını tasvir eden hem gerçek hem de yapay zeka tarafından oluşturulmuş içerikler de dahil olmak üzere çocuk cinsel istismar materyali (CSAM) ile eğittiğini iddia ediyor.
Federal mahkemede sunulan şikayet, xAI'nin amiral gemisi yapay zeka asistanı Grok'un geliştirilmesi sırasında kullanılan veri temin uygulamaları hakkında ciddi iddialar ortaya koyuyor. Dava, çocuk cinsel istismarını tasvir eden materyalin modelleri geliştirmek için kullanılan eğitim veri setlerine sızdığını ileri sürüyor.
Bu dava, yapay zeka şirketlerinin eğitim verilerini tarama konusundaki özen yükümlülüğü uygulamaları hakkında sorular gündeme getiriyor. Yapay zeka geliştiricileri tipik olarak modellerini eğitmek için internetten büyük miktarda metin, görüntü ve diğer verileri temin eder; bu süreç bazen zararlı içeriklerin eğitim veri setlerine yanlışlıkla dahil edilmesiyle sonuçlanabilir.
Bu, büyük bir yapay zeka şirketinin eğitim verileri nedeniyle incelemeye alınması ilk kez değil. Diğer yapay zeka firmaları da modellerini eğitmek için kullandıkları içeriklerle ilgili benzer davalarla ve eleştirilerle karşı karşıya kaldı ve bu durum, yapay zeka sektöründe daha fazla şeffaflık ve daha sıkı veri denetim süreçleri çağrılarını beraberinde getirdi.
İddiaların doğru çıkması halinde, bu durum hem çocuk koruma yasalarının hem de ortaya çıkan yapay zeka güvenliği düzenlemelerinin ciddi bir ihlalini temsil edecektir. Hukuk uzmanları, CSAM'ın herhangi bir ticari bağlamda, yapay zeka eğitimi dahil, kullanılmasının çoğu yargı yetkisinde yasadışı olduğunu ve önemli cezai ve hukuki yaptırımları beraberinde getirebileceğini belirtiyor.
xAI, davadaki spesifik iddialara henüz kamuoyu önünde yanıt vermedi. Davanın, Grok'un geliştirilmesi sırasında şirketin veri temini, taraması ve iç uygulamalarına ilişkin kapsamlı bir keşif sürecini içermesi bekleniyor.