Meta’nın Gözetim Kurulu, şirketin Kolombiya’daki polis şiddetini tasvir eden bir karikatürü kaldırdığını söyleyerek, şirketin otomatik denetleme araçları konusunda daha dikkatli olması gerektiğini söyledi. Kurul, Hindistan’daki cinsel saldırı videosuyla ilgili bir soru da dahil olmak üzere bir dizi yeni davayı ele aldığında karar geldi.
Meta tarafından finanse edilen yarı bağımsız bir kurum olan Gözetim Kurulu, Kolombiyalı polis memurlarının bir adamı coplarla dövdüğünü gösteren siyasi bir karikatür olarak değerlendirdi. Karikatür bir noktada Meta’nın Medya Eşleştirme Hizmeti veritabanına eklendi, bu da Meta’nın sisteminin, kullanıcılar onu yayınladığında yayından kaldırılmak üzere otomatik olarak işaretlediği anlamına geliyordu. Ancak kullanıcılar gönderilerinin kaldırıldığını görünce karara itiraz etmeye ve kazanmaya başladılar. Gözetim Kurulu, 215 kişinin kaldırma işlemine itiraz ettiğini ve temyizlerin yüzde 98’inin başarılı olduğunu söyledi. Ancak Meta, Gözetim Kurulu davayı üstlenene kadar karikatürü veri tabanından kaldırmadı.
Otomasyon, kötü bir moderasyon çağrısının etkilerini artırabilir
Bu gerçek, Gözetim Kurulunu rahatsız etti. Karar, “İçeriği kaldırmak için otomatik sistemler kullanarak, Medya Eşleştirme Hizmeti bankaları, bireysel insan incelemeciler tarafından verilen yanlış kararların etkisini artırabilir” diyor. Daha duyarlı bir sistem, resmi içeren bireysel gönderilere başarıyla itiraz edildiğinde bankanın incelemesini tetikleyerek sorunu çözebilirdi. Aksi takdirde, tek bir kötü karara dayalı olarak yasaklanan görseller, bireysel yorumcular daha sonra farklı bir sonuca varsa bile, süresiz olarak gizlice yasaklanmış olarak kalabilir.
Bu, Facebook ve Instagram’ın otomatik denetiminin aşırı saldırgan yayından kaldırmalardan kaçınmak için kalibre edilip edilmediğini sorgulayan çok sayıda Gözetim Kurulu vakasından biridir ve önceki durumlarda olduğu gibi, Gözetim Kurulu daha fazla gözetim yöntemi ister. Yönetim kurulu, Meta’nın belirli içerik politikaları için Medya Eşleştirme Hizmeti bankalarının doğruluğunu ölçmediğinden özellikle endişe duyuyor. “Bu bankaların çalışma şeklini geliştirmek için çok önemli olan bu veriler olmadan şirket, bu teknolojinin bazı topluluk standartları için diğerlerinden daha etkili çalışıp çalışmadığını söyleyemez.”
Meta’dan, yanlışlıkla eşleşen bankaya dahil edilen içeriğin hata oranlarını yayınlamasını istiyor. Kurulun politika tavsiyelerinde her zaman olduğu gibi, Meta öneriye yanıt vermelidir, ancak bunu uygulayıp uygulamamayı seçebilir.
Meta’nın aşırılık yanlısı grupları övdüğü için cezaları “belirsiz ve şiddetli”
Gözetim Kurulu ayrıca, Facebook’un aşırılıkçı grupları desteklemek ve onlar hakkında rapor vermek arasındaki çizgisini test eden sayısız olaydan birini ele aldı. Meta’nın, Taliban’ın kadınlar ve kızlar için okulları ve kolejleri yeniden açtığını bildiren Urduca bir Facebook gönderisini kaldırarak hata yaptığını belirledi. Kural, Taliban gibi grupların “övülmesini” yasaklıyor ve görev kaldırıldı. Özel bir moderasyon sırasına yapılan bir itirazdan sonra sevk edildi, ancak gerçekte hiç gözden geçirilmedi – Gözetim Kurulu, o sırada Facebook’un sıraya atanan 50’den az Urduca konuşan gözden geçirene sahip olduğunu belirtiyor.
Kurul, davanın tehlikeli örgütlerle ilgili kurallarla “daha geniş bir soruna işaret edebileceğini” söylüyor. Birkaç olaydan sonra, politikanın hem kullanıcılar hem de moderatörler için belirsiz göründüğünü ve kuralı çiğnemenin cezalarının “belirsiz ve şiddetli” olduğunu söylüyor. Tehlikeli kişileri “övmek” için daha net ve daha dar bir tanım istiyor ve inceleme kuyruğuna daha fazla moderatör atadı.
Bu arada, Gözetim Kurulu iki vaka hakkında kamuoyunun yorumunu istiyor: İlki, Meta’nın “şiddet içeren ve sansürlenmemiş içerik” politikasını ihlal ettiği için yasaklanan, ancak haklı olması gereken bir haber değerine sahip olabilecek bir Nijerya kilisesine yönelik toplu silahlı saldırıya ilişkin bir videoyla ilgili. ayakta tutuyor. Benzer şekilde, Hindistan’da cinsel saldırıyı tasvir eden bir videonun kast ve cinsiyete dayalı şiddet konusunda farkındalık yaratmasına izin verilmesi gerekip gerekmediği veya rıza dışı dokunmanın grafik tasvirinin doğası gereği çok zararlı olup olmadığıyla ilgileniyor. Her iki durum için de yorum penceresi 29 Eylül’de kapanacak.