Tumblr ve New York Şehri İnsan Hakları Komisyonu (CCHR), şehir düzenleyicilerinin LGBTQ kullanıcılarını orantısız bir şekilde etkilediğini söylediği, şirketin 2018 yetişkinlere yönelik içerik yasağıyla ilgili ayrımcılık iddialarını çözdü. yerleşim gerektirir Tumblr, kullanıcı itiraz sürecini gözden geçirecek ve insan moderatörlerini çeşitlilik ve dahil etme konularında eğitecek, ayrıca binlerce eski vakayı gözden geçirecek ve moderasyon algoritmalarında olası önyargıları araştırmak için bir uzman işe alacak.
Resmi bir yasal şikayet içermeyen ve geçen ay imzalanan anlaşma, düzenleyicilerin bir sosyal ağın denetleme politikalarını algoritmik önyargı sorunlarına dayalı olarak değiştirmek için bir anlaşmaya vardıkları ilk zamanlardan birini işaret ediyor. CCHR’nin, Tumblr’ın müstehcen cinsel içeriği ve çıplaklığı yasaklamasından kısa bir süre sonra Aralık 2018’de başlattığı ve komik bir şekilde hatalı otomatik yayından kaldırma sistemiyle kurallarını uyguladığı bir soruşturmayı çözüyor.
ile bir röportajda SınırCCHR basın sekreteri Alicia McCauley, ajansın yasağın bir etkisi olacağı yönündeki haberlerden sonra ilgilenmeye başladığını söyledi. büyük etki Tumblr’ın LGBTQ kullanıcı tabanında. McCauley, New York Şehri İnsan Hakları Yasasının, cinsiyet kimliği ve cinsel yönelim gibi kategorilere dayalı önyargılara karşı geniş koruma sağladığını belirtiyor. “Birisi New York’ta iş yapıyorsa, bunun insanları olumsuz etkileyip etkilemediğini araştırma yetkimiz var” dedi.
Anlaşma, Tumblr’a cinsel yönelim ve cinsiyet kimliği (SOGI) konularında bir uzman tutması ve moderatörlere ilgili eğitim sağlaması için 180 gün veriyor. Ayrıca, LGBTQ içeriğini işaretleme olasılıklarının daha yüksek olup olmadığını görmek için Tumblr’ın denetleme algoritmalarını gözden geçirecek, görüntü sınıflandırmasında uzmanlığın yanı sıra bu alanda deneyime sahip birini işe almalıdır. Genel bir incelemenin parçası olarak, Tumblr, bir kullanıcının yayından kaldırmaya başarılı bir şekilde itiraz ettiği 3.000 eski vakayı yeniden inceleyecek ve önyargıyı gösterebilecek kalıpları arayacaktır.
Anlaşma, büyük ölçüde 2019’da Tumblr’ı Verizon’dan satın alan ve görünüşe göre CCHR ile yakın işbirliği yapan WordPress sahibi Automattic nedeniyle gerçekleşti. CCHR avukatı Alberto Rodriguez, “Bunun soruşturmada bir dönüm noktası olduğunu düşünüyorum” diyor. Automattic, yerleşimden önce bile daha fazla insan gözetimi eklemek için orijinal sistemi revize etmişti. Sahipliği altında Tumblr ayrıca uzlaştırmaya çalıştı daha büyük bir topluluk göçünün parçası olarak ayrılan LGBTQ kullanıcıları ile.
Rodriguez, Tumblr anlaşmasının ülke çapında daha büyük bir düzenleyici harekette erken bir adım olabileceğine inanıyor. “Sosyal medya şirketlerinin daha fazla hükümet düzenlemesi altına girmesinin ve bu yaptırım eylemlerinin daha fazlasının gerçekleşmesinin kaçınılmaz olduğunu düşünüyorum” diyor.
Sosyal medya platformlarına yönelik önyargı iddiaları mahkemede nadiren başarılı oldu ve bugünkü anlaşma, Automattic’in Tumblr’ın ılımlılığını elden geçirme ve LGBTQ topluluğuna olan güveni yeniden sağlama arzusuyla destekleniyor gibi görünüyor. (Automattic aynı zamanda “Big Tech” devlerinden daha az yasal kaynağa sahip çok küçük bir şirkettir.) CCHR, ayrımcılık iddialarını destekleyen kanıtlar hakkında ayrıntılı bilgi vermedi, bu nedenle bu davanın ayrıntılarını değerlendirmek zor. Ancak YouTube ve Instagram gibi çok daha büyük platformlar, düzenleyici işlem yapılmadan ayrımcı ılımlılık suçlamalarıyla karşı karşıya kaldı ve özellikle YouTube, iki davayı yendi. LGBTQ’dan ve Siyah video yaratıcıları kim iddia etti algoritmik ayrımcılık.
Rodriguez, bu davalardan farklı olarak, CCHR’nin şehir düzeyindeki kurallarının ayrımcılık yapmak için belirli bir niyet gerektirmediğini söylüyor. Ancak mahkemeler, Sosyal Medya Platformlarına, İlk Değişiklik ve İletişim Ahlakı Yasası’nın 230. Bölümü uyarınca içeriği denetleme konusunda geniş bir serbestlik verdi ve bir CCHR davasının bu incelemeye dayanması gerekecek. Kapsamlı Bölüm 230 tarihinin yazarı Jeff Kosseff, “Bölüm 230, federal, eyalet ve belediye yasaları ve yaptırımları için eşit olarak geçerlidir” diyor. İnterneti Yaratan Yirmi Altı Kelime.
Ancak daha büyük olan algoritmik ırk ve cinsiyet yanlılığı sorunu, özellikle insanların barınma ve istihdam seçeneklerini etkileyebileceği durumlarda, düzenleyiciler için artan bir öncelik haline geldi. Ve yasal şikayetler olmadan bile, Twitter gibi bazı şirketler, denetim algoritmalarını kamuoyu baskısı altında gözden geçirdiler – bazen yol boyunca rahatsız edici keşifler yaptılar.