Bu Platform oyunuCasey Newton ve Zoë Schiffer’ın Silikon Vadisi ile demokrasinin kesişimini konu alan bir haber bülteni. Buradan kaydolun.
Bugün geleneksel platform adalet sisteminin nasıl yeni bir reform hareketinin işaretlerini gördüğünden bahsedelim. Discord’da başarılı olması durumunda destekçileri, girişimin internette daha iyi davranışlara yol açacağını umuyor.
Discord’un San Francisco kampüsü, açık plan ofisi, iyi stoklanmış mikro mutfakları ve aşırı dolu konferans salonlarına girip çıkan çalışanları ile diğerleri gibi bir teknoloji şirketinin genel merkezidir.
Ancak girişindeki cam kapılardan içeri girdiğinizde buranın oyuncular tarafından inşa edilmiş bir yer olduğu hemen anlaşılıyor. Duvarlarda atari tarzı sanat eserleri sergileniyor, köşelerde çeşitli oyunlar saklanıyor ve Çarşamba öğleden sonra, arka arkaya oturan üç çalışan birinci şahıs nişancı oyununda yarışıyordu.
Video oyunları saf eğlence için tasarlanmıştır, ancak bu oyunların etrafındaki topluluk herkesin bildiği gibi zehirli olmak. Öfkeli oyuncular hakaretler yağdırıyor, rakiplerini doxx yapıyor ve en tehlikeli durumlardan bazılarında, SWAT ekiplerini hedeflerinin evlerine çağırmak.
Oyuncular çevrimiçi zararların evrimini anlamak için bir petri kabıdır
Oyuncuların birlikte oynarken sohbet edebileceği bir araç olarak başlayan Discord için oyuncular hem önemli bir seçmen kitlesi hem de çevrimiçi zararların gelişimini anlamak için bir araştırma kabıdır. Birisine zarar verebilecekse muhtemelen bir yerlerde bunu deneyen kızgın bir oyuncu vardır.
Elbette sekiz yaşındaki Discord artık oyun tartışmalarından çok daha fazlasına ev sahipliği yapıyor. 2021 yılına kadar aylık 150 milyondan fazla kullanıcının olduğunu bildirdive en büyük sunucuları artık müzik, eğitim, bilim ve Yapay zeka sanatı.
Büyüyen kullanıcı tabanıyla birlikte, kullanıcıların sunucularında ne yaptığına dair yüksek profilli tartışmalar da ortaya çıktı. Nisan ayında şirket, Pentagon’dan gizli belgeler sızdırıldığında manşetlere çıktı Platformda dolaşırken bulundu. Discord daha önce de incelemeyle karşı karşıya kalmıştı 2017’de beyaz milliyetçiler tarafından kullanımı Charlottesville, VA’da “Sağları Birleştirin” mitingini planlarken ve daha sonra Buffalo, NY’de ırkçı bir toplu saldırının şüphelisi Platforma ırkçı söylemler yüklediği tespit edildi.
Discord’daki sorunlu gönderilerin çoğu elbette o kadar da ciddi değil. Tüm büyük platformlarda olduğu gibi Discord da spam, taciz, nefret söylemi, porno ve vahşete karşı günlük mücadele veriyor. (Kripto çılgınlığının zirvesindeyken, aynı zamanda Dolandırıcıların tercih ettiği adres.)
Çoğu platform bu sorunları çeşitli yöntemlerle ele alır üç vuruş ve sen-out politikası. Kuralları birkaç kez çiğnerseniz bir uyarı alırsınız; onları üçüncü kez kırarsanız hesabınız nükleer bombalanır. Çoğu durumda, grevler belirli bir sürenin ardından (örneğin 30 gün veya 90 gün) affedilir. Bir teknoloji şirketi açısından bu politikanın güzel yanı, iletişim kurmanın kolay olması ve “ölçeklenmesidir.” Herhangi bir insan gözetimi olmadan ihtar veren, itirazları inceleyen ve hesapları yasaklayan otomatik bir sistem oluşturabilirsiniz.
Bir Zamanlar birçok teknoloji şirketi güven ve emniyet çabalarından geri çekiliyorBunun gibi bir politikanın çok çekiciliği var.
Ancak Discord ekibi, kullanıcıları uyarma ve askıya alma konusundaki kendi politikalarını gözden geçirdiğinde sistemin yetersiz olduğunu gördü.
Birincisi, üç vuruş politikası orantılı değildir. Hem küçük ihlaller hem de büyük ihlaller için aynı cezayı uygular. İkincisi, iyileşmez. İhtar alan kullanıcıların çoğu muhtemelen kalıcı olarak yasaklanmayı hak etmiyor, ancak kalmalarını istiyorsanız onları nasıl eğiteceğinizi bulmalısınız.
Discord gençlerin en kötü dürtülerini dizginlemek istedi
Üçüncüsü, çoğu platform disiplin sistemi nüanslardan yoksundur. Bir genç kızın kendine zarar verme tasviri içeren bir resim yayınlaması durumunda Discord, kendi politikaları uyarınca resmi kaldıracaktır. Ancak kızın sosyal medyadan men edilmesine gerek yok; ona yardımcı olabilecek kaynaklara yönlendirilmesi gerekiyor.
Hepsinden önemlisi Discord’un dikkate alması gereken bir komplikasyon daha vardı. Kullanıcılarının yarısı 13 ila 24 yaş aralığındadır; tabanının önemli bir kısmı gençlerdir. Gençler, risk almayı seven ve sınırları zorlayan kişilerdir ve Discord, onların en kötü dürtülerini dizginleyecek ve en iyi senaryoda onları internetin dürüst vatandaşlarına dönüştürecek bir sistem kurmaya motive oldu.
Discord’un bugün duyurduğu yeni uyarı sistemine de bu mantık girdi. Şirket, bir blog yazısında değişiklikleri şöyle açıkladı:
Her şey bir DM ile başlıyor — Kuralları ihlal eden kullanıcılar, doğrudan Discord’dan, olanların ciddiyetine ve Discord’un harekete geçip geçmediğine bağlı olarak bir uyarı veya ihlal aldıklarını bildiren bir uygulama içi mesaj alacak.
Ayrıntılar bir tık uzakta — Kullanıcılar bu mesajdan, kurallarımızı çiğneyen gönderinin ayrıntılarını, gerçekleştirilen eylemlerin ve/veya hesap kısıtlamalarının ana hatlarını ve belirli Discord politikası veya Topluluk Kuralları hakkında daha fazla bilgiyi veren ayrıntılı bir modal’a yönlendirilecekler. bu ihlal edildi.
Tüm bilgiler hesap durumunuzda kolaylaştırılmıştır — Ayarlarda, geçmiş ihlallerle ilgili tüm bilgiler yeni “Hesap Durumu” sekmesinde görülebilir.
Ancak bazı ihlaller diğerlerinden daha ciddidir ve ihlalin ciddiyetine bağlı olarak gerekli önlemleri alırız. Örneğin, şiddet içeren aşırılığa ve çocukları cinselleştiren içeriğe karşı sıfır tolerans politikamız var ve olmaya devam edecek.
Bunun gibi bir sistem tamamen yeni değil; Instagram da benzer bir yaklaşım benimsiyor. Discord’un daha da ileri gittiği yer ceza sistemidir. Kullanıcılara basitçe ihtar vermek yerine, ihlale bağlı olarak platformdaki davranışlarını sınırlandırır. Bir sunucuda çok fazla vahşet paylaşırsanız Discord, medya yükleme yeteneğinizi geçici olarak sınırlayacaktır. Başka birinin sunucusuna baskın yapıp onu mesaj yağmuruna tutarsanız Discord, mesaj gönderme yeteneğinizi geçici olarak kapatacaktır.
“Sektör olarak elimizde çok sayıda çekiç vardı. Yaklaşımımıza daha fazla neşter katmaya çalışıyoruz,” dedi Discord’un güven ve güvenlikten sorumlu başkan yardımcısı John Redgrave bir röportajda bana söyledi. “Bu sadece Discord’a fayda sağlamakla kalmıyor, eğer kullanıcılar davranışlarını gerçekten değiştirebilirse tüm platformlara fayda sağlıyor.”
Discord kullanıcıyı sonsuza kadar yasaklamamak için çabalayacak
Birisi çizgiyi tekrar tekrar aştığında Discord, kullanıcıyı sonsuza kadar yasaklamamak için elinden geleni yapacaktır. Bunun yerine, onları bir yıl süreyle yasaklayacak; ömür boyu yasakların norm olduğu bir sektör için cezalarda ciddi bir azalma olacak.
Bu, sosyal ağların çevrimiçi insanların, özellikle de gençlerin yaşamlarındaki öneminin hoş karşılanan bir kabulü ve eğer birisi denemek için zaman ayırırsa, çoğu asi kullanıcının rehabilite edilebileceği fikrinin nadir görülen bir şekilde benimsenmesidir.
Discord’un kıdemli politika direktörü Savannah Badalich bana, “Kötü bir gün geçiren insanlara gerçekten değişme şansı vermek istiyoruz” dedi.
Badalich, yeni sistemin halihazırda küçük bir sunucu grubunda test edildiğini ve önümüzdeki haftalarda kullanıma sunulmaya başlayacağını söyledi. Yeni uyarı sistemiyle birlikte şirket, genç kullanıcılar için varsayılan olarak etkin olan Teen Safety Assist adlı bir özelliği de sunuyor. Açıldığında, yabancılardan gelen mesajları uygunsuz içerik açısından tarar ve doğrudan mesajlardaki potansiyel olarak hassas görüntüleri bulanıklaştırır.
Çarşamba öğleden sonra Discord, Redgrave, Badalich ve 200 kişilik güven ve güvenlik ekibinin diğer dört üyesiyle bir toplantıya katılmama izin verdi. Konu: Bireysel kullanıcılar için duyurduğu uyarı sistemi sunuculara da uyarlanabilir mi?
Sonuçta Discord’daki problemli kullanım bazen bireysel kullanıcıların ötesine geçiyor. Sunucular da politikaları ihlal ediyor ve artık bireylere yönelik uyarı sisteminin devreye girmesiyle şirket, dikkatini grup bazlı zararlara çeviriyor.
Kayıtlara geçen toplantıya katılma şansını takdir ettim, çünkü şirket hâlâ bir çözüm üretmenin ilk aşamalarındaydı. İçerik denetimiyle ilgili çoğu konuda olduğu gibi, ilgili çeşitli eşitliklerin çözülmesi çok zor olabilir.
Bunların hepsi çözülmesi imkansız bir düğüm gibi hissedilebilir
Bu durumda ekip üyelerinin, sunucunun kötüye gitmesinden kimin sorumlu olduğuna karar vermesi gerekiyordu. İlk düşünceniz “sunucunun sahibi” olsaydı, o da benimdi. Ancak bazen moderatörler sunucu sahiplerine kızarlar ve Discord’un kurallarını çiğneyen içerik yayınlayarak onlara misilleme yaparlar; bu, sunucunun yasaklanmasını amaçlayan bir tür yakıp yıkma politikasıdır.
Tamam o zaman. Belki de moderatörler sunucudaki zararlardan sunucunun sahibi kadar sorumlu kabul edilmelidir? Görünüşe göre Discord’un kimin aktif moderatör olarak sayılacağı konusunda tamamen tutarlı bir tanımı yok. Bazı kullanıcılara bir sunucuya katıldıklarında otomatik olarak moderatör izinleri verilir. Eğer sunucu sahtekarlık yapıyorsa ve “moderatör” sunucuya hiç paylaşım yapmamışsa neden sorumlu tutulsunlar ki?
Ayrıca ekip üyeleri, bazı sunucu sahiplerinin ve moderatörlerin genellikle Discord’un topluluk kurallarına aşina olmadığını söyledi. Diğerleri kuralları biliyor olabilir ama aslında sunucudaki kötü davranışın farkında olmayabilirler; bunun nedeni sunucunun çok büyük olması ve her mesajı okuyamayacak kadar aktif olması ya da son zamanlarda oturum açmamış olmalarıdır.
Son olarak, bu soru dizisi tesadüfen zararın meydana geldiği sunucuların çoğunluğu için geçerlidir. Discord’un ayrıca, çocuklara yönelik cinsel istismar materyalleri toplamak ve satmak gibi zarar vermek üzere kurulmuş daha küçük ama önemli sayıda sunucuyu da dikkate alması gerekiyor. Ekip, bu sunucuların çok farklı varsayımlar ve uygulama mekanizmaları gerektirdiğini kabul etti.
Bunların hepsi çözülmesi imkansız bir düğüm gibi hissedilebilir. Ancak sonunda ekip üyeleri ileriye yönelik bir yol buldu: sorunlu sunucuları teşhis etmek ve onları iyileştirmeye çalışmak için sunucu meta verilerinin bir kombinasyonunun yanı sıra sunucu sahiplerinin, moderatörlerin ve kullanıcıların davranışlarını analiz etmek.
Mükemmel değildi; güven ve güvenlik konusunda hiçbir şey mükemmel değildir. Bir ürün politikası uzmanı, sadece yarı şaka yaparak, “Mevcut sistem, aşırı ve yetersiz yaptırımın büyüleyici bir örneğidir” dedi. “Bizim teklif ettiğimiz şey, aşırı ve yetersiz yaptırımın biraz farklı bir durumu.”
Yine de o gün Discord genel merkezinden şirketin gelecekteki sistemlerinin zamanla gelişeceğinden emin olarak ayrıldım. Güven ve güvenlik ekipleri sıklıkla partizan azarlayıcılar ve sansürcüler olarak karikatürize ediliyor. Discord’u ziyaret etmek onlara da yenilikçi olabileceklerini hatırlattı.