Discord, AI moderasyon sistemindeki bir hatanın, son iki ayda zararsız içeriklerin yanlış bir şekilde zararlı olarak işaretlenmesi sonucu 8,000’den fazla kullanıcıyı yanlışlıkla yasakladığını kabul etti. Bu içerikler arasında elektronik tablolar, satranç tahtaları, oyun dokuları ile beyaz ve gri saydam arka planlar yer alıyor.
Şirket, sorunun Mayıs ayından bu yana bazı hesapları etkilediğini ve sorunun belirlenmesi ve düzeltilmesinin ardından hafta sonu 200 kullanıcının daha yasaklandığını doğruladı. Şu anda etkilenen tüm hesaplar yeniden aktif hale getiriliyor.
Bu durum, AI destekli moderasyonun, birçok platformun yasadışı veya istismara yönelik içerikleri geniş ölçekte tanımlamak için giderek daha fazla otomatik sistemlere güvenmesi nedeniyle karşılaştığı zorluklardan birini gözler önüne seriyor.
Discord, X’nde detaylı bir açıklama yaparak otomatik güvenlik sisteminin, yüklenen içerikleri bilinen zararlı materyallerin veri tabanlarıyla eşleştirerek çalıştığını belirtti. Teknoloji, illegal içerikleri tespit etmek için tasarlanmış olsa da, zaman zaman yanlış pozitif sonuçlar üretebildiğini kabul etti. Bir insan moderatörü içeriği incelemesine rağmen, bir hata nedeniyle sistem etkilenen hesapların hemen yasaklanmasına yol açtı.
“Bu durumun bir daha yaşanmaması için daha iyi güvenlik önlemleri üzerinde çalışıyoruz,” açıklamasında bulundu.
“Sistemlerimiz, içerikleri bilinen zararlı materyallerle eşleştirerek işaretler. Bu tür benzerlik eşleştirmeleri yanlış pozitif sonuçlar üretebilir, bu nedenle Trust & Safety ekibimizden bir üye, herhangi bir işlem yapılmadan önce işaretlenen içeriği her zaman inceler.”
— Discord Support (@discord_support) 7 Temmuz 2026
X ve Reddit‘te kullanıcılar, kare ızgara desenleri içeren görüntüler yükledikleri için kalıcı olarak yasaklandıklarını iddia ettiler. Bazı kullanıcılar, Discord’un AI moderasyon araçlarının, daha önce otomatik tespit sistemlerinden NSFW ve çocuk istismarı içeriklerini gizlemek için kullanıldığı için ızgara benzeri desenlere karşı daha hassas hale geldiğini öne sürdü.
Etki altında kalan kullanıcılar, sosyal medyada hayal kırıklıklarını dile getirirken, otomatik tespit temelli kalıcı yasakların ciddi sonuçlar doğurabileceğini, özellikle de Discord’u iş, oyun toplulukları veya uzun mesafe sosyal bağlantılar için kullanan kullanıcılar için endişe yarattığını belirtiyorlar.
Bir kullanıcı, “Böylesine haksız bir nedenle Discord hesabını kaybetmek oldukça yıkıcı olabilir ve kullanıcıları ciddi şekilde etkileyebilir. Her gün milyonlarca kullanıcı, yanlış AI yasaklarından etkileniyor. Bu durumun durdurulması gerekiyor,” şeklinde bir yorumda bulundu.
“Hesabım, AI moderasyonu sisteminin oyun dokularımı CSAM olarak yanlış tespit etmesi nedeniyle haksız yere yasaklandı. Hesabımı geri istiyorum çünkü ben bir oyun yönetmeniyim ve tüm iletişimim için Discord’u kullanıyorum. Askıya alma talebimi gözden geçirilmesini istedim.”
— JDBRYANT 🎂 TODAY (@jdbryantdev) 4 Temmuz 2026
Discord, otomatik sistemler nedeniyle moderasyon sorunlarıyla karşılaşan tek platform değil. Geçtiğimiz yıl, Instagram ve Facebook Grupları’nın kullanıcıları, AI moderasyon sistemlerinin neden olduğu düşünülen açıklanamayan hesap askıya alma olayları bildirdi. Kullanıcılar, otomasyonu muhtemel bir suçlu olarak işaretlese de, Meta AI hatalarının sorumlu olup olmadığını kamuya açık bir şekilde onaylamadı. Şimdi, Meta’nın Denetim Kurulu, artırılmış şeffaflık çağrısında bulunuyor.
Geçen yıl Tumblr da, kullanıcıların net bir açıklama olmaksızın topluca askıya alındıklarına dair şikayetler aldığını bildirdi.
