New York’ta Buffalo’da bir süpermarkete düzenlenen ırkçı saldırıda bu hafta sonu on kişi öldürüldü. On sekiz yaşındaki beyaz üstünlükçü tetikçi, saldırısını Amazon’un sahip olduğu video oyunu yayın platformu Twitch’e canlı yayınladı. Şiddet başladıktan iki dakika sonra Twitch videoyu kaldırmış olsa da, hala çok geçti – şimdi, terörist saldırının korkunç görüntüleri, şirketler videoyu kaldırma sözü verdikten sonra bile, Facebook ve Twitter gibi platformlarda açıkça dolaşıyor.
Facebook’ta, videoyu işaretleyen bazı kullanıcılar şu şekilde bilgilendirildi: içerik kurallarını ihlal etmedi. Şirket, TechCrunch’a bunun bir hata olduğunu söyledi ve çekim videolarını ve diğer sitelerde barındırılan videonun bağlantılarını indirmek için gece gündüz çalışan ekipleri olduğunu da sözlerine ekledi. Facebook, saldırganın ırkçı söylemlerinin ve kendisini öven içeriğin kopyalarını da kaldırdığını söyledi.
Ancak Facebook’ta “manda avı görüntüleri” kadar basit bir terim aradığımızda, ilk sonuçlardan birinde teröristin görüntülerinin 54 saniyelik bir ekran kaydı olduğu ortaya çıktı. TechCrunch, yüklendikten bir saat sonra videoyla karşılaştı ve hemen bildirdi. Video, yayınlandıktan üç saat sonra, zaten binden fazla kez görüntülenene kadar kaldırılmadı.
Teoride, bu olmamalı. Bir Facebook temsilcisi TechCrunch’a, videonun birden fazla versiyonunun yanı sıra saldırganın ırkçı yazılarını, platformun bu tür içeriği tanımlamasına, kaldırmasına ve engellemesine yardımcı olan ihlal içerikli bir veri tabanına eklediğini söyledi. Facebook’a bu olayı sorduk, ancak ek ayrıntı vermediler.
Facebook Dürüstlük Başkan Yardımcısı Guy Rosen, şirketin neden bunu yapmakta zorlandığına ilişkin bir soruya yanıt olarak, “İhlal eden içeriği gelecekte daha hızlı bir şekilde tespit edip kaldırabileceğimizden emin olmak için süreçlerimizi iyileştirmeye, öğrenmeye devam edeceğiz” dedi. Salı günü alakasız bir aramada videonun kopyalarını kaldırın.
Tetikçinin akışının tekrarlarını Twitter’da bulmak da kolaydı. Aslında, arama çubuğuna “buffalo video” yazdığımızda, Twitter “buffalo video tam video grafiği”, “buffalo video sızdırıldı” ve “buffalo video grafiği” gibi aramalar önerdi.
Resim Kredisi: Twitter, TechCrunch’ın ekran görüntüsü
İki günden fazla bir süredir Twitter’da dolaşan saldırının birden fazla videosuyla karşılaştık. Salı öğleden sonra incelediğimizde böyle bir video 261.000’den fazla izlendi.
Nisan ayında Twitter’da bir politika çıkardı Twitter’dan şiddet içeren saldırıların bireysel faillerini yasaklıyor. Bu politika kapsamında, platform ayrıca saldırılarla ilgili multimedyayı ve ayrıca terörist “manifestolarından” gelen dili kaldırma hakkını saklı tutar.
“Olayla ilgili videoları ve medyayı kaldırıyoruz. Ayrıca, bir Twitter sözcüsü TechCrunch’a verdiği demeçte, manifestoyu veya failler tarafından üretilen diğer içeriği yayan Tweetleri kaldırabiliriz” dedi. Şirket, bu “nefret dolu ve ayrımcı” içeriği “toplum için zararlı” olarak nitelendirdi.
Twitter ayrıca bazı kullanıcıların saldırıyla ilgili değiştirilmiş veya manipüle edilmiş içerik yükleyerek yayından kaldırma işlemlerini atlatmaya çalıştıklarını iddia ediyor.
Buna karşılık, hafta sonu yaşanan trajedinin video görüntülerini YouTube’da bulmak nispeten zordu. Buffalo çekim videosu için temel arama terimleri, çoğunlukla ana akım haber kuruluşlarında yer aldı. Twitter ve Facebook’ta kullandığımız aynı arama terimleriyle, tıklandığında aslında alakasız içerik olan, çekimin küçük resimlerini içeren bir avuç YouTube videosunu tanımlayabildik. TechCrunch, TikTok’ta kullanıcıları videoyu izleyebilecekleri web sitelerine yönlendiren ancak aramalarımızda uygulamada gerçek görüntüleri bulamayan bazı gönderiler belirledi.
Twitch, Twitter ve Facebook, videonun yayılmasını sınırlamak için Terörle Mücadele Küresel İnternet Forumu ile birlikte çalıştıklarını belirttiler. Twitch ve Discord, durumu araştıran hükümet yetkilileriyle birlikte çalıştıklarını da doğruladı. Nişancı, saldırıdan önce özel bir Discord sunucusunda çekim planlarını ayrıntılı olarak anlattı.
TechCrunch tarafından incelenen belgelere göre, Buffalo tetikçisi, Halle Sinagogu’ndaki 2019 anti-semitik çekim için Twitch’te canlı kaldığı için saldırısını Twitch’e yayınlamaya karar verdi. 30 dakikadan fazla önce indirildi. Saldırgan, Facebook’ta yayın yapmayı düşündü, ancak kullanıcıların canlı yayınları izlemek için oturum açmaları gerektiğini düşündüğü için platformu kullanmamayı tercih etti.
Facebook ayrıca algoritmik algılamadan kaçan toplu çekimlere yanlışlıkla ev sahipliği yaptı. Halle Sinagogu’nun vurulmasıyla aynı yıl, Yeni Zelanda’nın Christchurch kentinde iki camiye 17 dakika boyunca akan İslamofobik saldırıda 50 kişi öldü. En azından üç fail Buffalo’daki zanlı da dahil olmak üzere kitlesel çekimlerin bir kısmı, canlı yayınlanan Christchurch katliamını ırkçı saldırıları için bir ilham kaynağı olarak gösterdi.
Facebook, Christchurch saldırılarından bir gün sonra saldırının 1,5 milyon videosunu kaldırdığını ve bunların 1,2 milyonu yükleme sırasında engellendiğini kaydetti. Elbette bu, Facebook’un neden bu videolardan 300.000’ini anında tespit edemediği sorusunu gündeme getirdi ve %20’lik bir başarısızlık oranına işaret etti.
Facebook’ta Buffalo’nun vurulmasının videolarını bulmanın ne kadar kolay olduğuna bakılırsa, platformun daha kat etmesi gereken çok yol var gibi görünüyor.