Discord Yapay Zeka İçerik Denetimi Hatası Zararsız Görseller Yükleyen Kullanıcıları Yasadışı Olarak Yasakladı
Ne Oldu
Discord, yapay zeka destekli içerik denetimi sistemindeki bir hatanın zararsız görseller yükleyen kullanıcıları haksız yere yasakladığını doğruladı. Şirket, sorunun Mayıs ayından bu yana hesapları etkilediğini belirtti.
Etki
Sorun, Discord ekibinin kök nedeni tespit edip bir düzeltme uygulamadan hemen önceki hafta sonu, 200 kullanıcı daha yasaklandığında tırmandı.
Arka Plan
Yapay zeka tabanlı denetim sistemleri, büyük platformlar tarafından topluluk kurallarını ihlal eden içerikleri otomatik olarak tespit etmek ve kaldırmak için yaygın olarak kullanılır. Ancak herhangi bir otomatik sistemde olduğu gibi, yanlış pozitif sonuçlar üretebilirler — yani aslında herhangi bir kuralı ihlal etmeyen içerikleri işaretleyebilirler.
Yanıt
Discord hatası giderdi ve bir düzeltme uyguladı. Yanlışlıkla yasaklanan kullanıcıların hesapları, görsel içeriğin hatalı bir yorumu nedeniyle askıya alınmış veya sonlandırılmış olabilirdi.
Bu olay, platformların otomatik denetim araçlarını büyük ölçekte devreye aldığında karşılaştığı devam eden zorlukları vurguluyor; burada hatalar meşru kullanıcılar için ciddi aksamalar yaratabiliyor.