Twitter’ın araştırma ekibi için uzun bir salgın olmuştu. Platformun taciz, aşırılık ve dezenformasyonla ilgili en zorlu sorunlarından bazılarını çözmekle görevlendirilen çalışanlar, Kasım 2021’de bir şirket geri çekilmesi için Napa Vadisi’ne kaçtı. Liderlikteki çalkantılı bir değişime rağmen – Jack Dorsey kısa süre önce istifa etti ve yerine eski teknoloji şefi Parag Agrawal’ı atadı – grup birleşmiş, hatta umutlu hissediyordu. Kötü oyuncularla internette aylarca savaştıktan sonra, çalışanların gevşemesi biraz zaman aldı. Bir araştırmacı, “Sonunda uyumlu bir ekibimiz olduğunu hissettik” diyor.
Ancak son günkü veda brunchında insanların telefonları endişe verici haberlerle çalmaya başladı: patronları, Twitter’ın tasarımdan sorumlu başkan yardımcısı Dantley Davis kovuldu. Kimse geleceğini bilmiyordu. Şirket hakkında halka açık konuşma yetkileri olmadığı için isminin açıklanmasını istemeyen bir katılımcı, “Film gibiydi” diyor. “İnsanlar ağlamaya başladı. Orada oturmuş kruvasan yiyordum, ‘Ruh halin nasıl?’
Haber, araştırma kuruluşu için aşağı yönlü bir sarmalın habercisiydi. Grup yeniden yapılanmalara alışmış olsa da, bir gezinin ortasında ekibi birbirine bağlamayı amaçlayan bir sarsıntı derinden sembolik hissettirdi.
Kargaşa, Elon Musk’ın Twitter’ı satın almak için bir anlaşma imzalamasıyla Nisan ayında zirveye ulaştı. 70 sayfalık dahili belgelerin yanı sıra mevcut ve eski çalışanlarla yapılan röportajlar, Musk’ın satın alınmasını çevreleyen kaosun bazı ekipleri kırılma noktasına getirdiğini ve çok sayıda sağlık araştırmacısının istifa etmesine neden olduğunu ve bazılarının meslektaşlarına aşırılıkçılıkla mücadele projelerinin önceliklerini azaltmalarının söylendiğini söylüyor. botlara ve spam’e odaklanma lehine. Musk anlaşması gerçekleşmeyebilir bile, ancak Twitter’ın sağlık çabaları üzerindeki etkileri zaten açık.
Bir zamanlar medeni olmayan ünlü platformda sivil sohbetleri teşvik etmekle görevlendirilen sağlık ekibi, tam zamanlı 15 çalışandan ikiye indi.
2019’da Jack Dorsey, yaratılmasına yardım ettiği platform hakkında temel bir soru sordu: “Konuşmanın sağlığını gerçekten ölçebilir miyiz?”
Vancouver’daki bir TED konferansında sahnede, bere giymiş CEO, kötü davranışları proaktif olarak tespit etmek ve “kurbanın yükünü tamamen ortadan kaldırmak” için otomatik sistemlere yatırım yapmaktan ciddi bir şekilde bahsetti.
O yaz şirket, Dorsey’in misyonunu yerine getirmek için bir sağlık araştırmacıları ekibi oluşturmaya başladı. Konuşması, akademide veya Meta gibi daha büyük teknoloji şirketlerinde çalışan insanları, olumlu sosyal değişime yönelik çalışma olasılığından ilham alarak Twitter’a katılmaya ikna etti.
Süreç istendiği gibi çalıştığında, sağlık araştırmacıları Twitter’ın yeni ürünlerin olası suistimallerini düşünmesine yardımcı oldu. 2020’de Twitter, kullanıcıların tweet’lerine kimlerin yanıt verebileceğini sınırlamalarına olanak tanıyan “unmention” adlı bir araç üzerinde çalışıyordu. Araştırmacılar, aracın nasıl kötüye kullanılabileceğini araştırmak için şirket genelinde çalışanları bir araya getiren bir “kırmızı ekip” çalışması gerçekleştirdi. Unmention “güçlü insanlara” izin verebilir [to] muhalefeti, tartışmayı ve düzeltmeyi bastırmak” ve “hedefleriyle temas kurmak isteyen tacizcilerin [to] zorlama, şahsen yanıt vermeyi hedefliyor, ”diye yazdı kırmızı ekip dahili bir raporda.
Ancak süreç her zaman bu kadar pürüzsüz değildi. 2021’de eski Twitter ürün şefi Kayvon Beykpour, şirketin bir numaralı önceliğinin Spaces’ı başlatmak olduğunu duyurdu. (“Clubhouse’u öldürmek için tam bir saldırıydı,” diyor bir çalışan.) Projeye atanan ekip, özelliği ortaya çıkarmak için fazla mesai yaptı ve 10 Ağustos – üç ay sonrasına kadar kırmızı bir ekip egzersizi planlamadı. başlatmak. Temmuz ayında tatbikat iptal edildi. Alanlar, temel risklerin kapsamlı bir değerlendirmesi yapılmadan hayata geçti ve beyaz milliyetçiler ve teröristler, platforma akın etti. bu Washington Post rapor edildi.
Twitter, sonunda Ocak 2022’de Spaces için kırmızı bir ekip egzersizi düzenlediğinde, rapor şu sonuca varmıştı: “Spaces’i başlatmadan önce sağlık ve güvenlik risklerini belirlemeye ve azaltmaya öncelik vermedik. Bu Kırmızı Takım çok geç oluştu. Spaces’ı inşa etmenin ilk bir buçuk yılındaki kritik yatırımlara rağmen, Spaces’taki kötü niyetli aktörlerin gerçek dünyaya verdiği zararlara büyük ölçüde tepki gösterdik. Sorunları belirlemek için kamuoyuna gereğinden fazla güvendik. Potansiyel sağlık etkilerini yeterince araştırmadan ürün ve özellikleri piyasaya sürdük.”
Bu yılın başlarında Twitter, kırmızı bir ekibin platformun çocuklara yönelik cinsel istismar materyallerini yeterince ele almadığını tespit etmesi üzerine yetişkinlere yönelik içerikten para kazanma planlarından geri adım attı. Bu, araştırmacıların yıllardır uyardığı bir sorundu. Çalışanlar, Twitter yöneticilerinin sorunun farkında olduğunu ancak şirketin sorunu çözmek için gerekli kaynakları tahsis etmediğini kaydetti.
2021’in sonlarına doğru, Twitter’ın sağlık araştırmacıları, platformda kötü oyuncularla köstebek vurmak için yıllarını harcadılar ve zararlı içerikle başa çıkmak için daha karmaşık bir yaklaşım uygulamaya karar verdiler. Dışarıdan, şirket düzenli olarak tehlikeli grupların çılgına dönmesine izin verdiği için eleştirildi. Ancak dahili olarak, bazen komplo teorisyenleri gibi belirli grupların da platformdan atıldığını hissetti. yakında – araştırmacıların dinamiklerini incelemeden önce.
Şirket hakkında alenen konuşma yetkisi olmadığı için anonim kalmasını isteyen eski bir çalışan, “Eski yaklaşım neredeyse komik bir şekilde etkisizdi ve çok tepkiseldi – manuel bir yakalama oyunu süreci” diyor. “Kötü adamları basitçe tanımlamak ve yakalamak, kaybedilen bir oyundur.”
Bunun yerine, araştırmacılar zararlı tweet’lerle etkileşime geçmek üzere olan kişileri belirlemeyi ve açılır mesajlar ve geçiş reklamları kullanarak onları daha sağlıklı içeriğe yönlendirmeyi umdular. “Pilot, Twitter’ın içerikten ziyade davranışsal sinyalleri tanımlamasına ve bunlardan yararlanmasına ve destekleyici içerik ve hizmetlere yönlendirilerek zarar görme riski altındaki kullanıcılara ulaşmasına izin verecek” Sınır.
Twitter araştırmacıları, şiddet yanlısı aşırılık yanlılarını araştırma konusunda uzmanlaşmış bir şirket olan Moonshot ile ortaklık kurdu ve Google ve Facebook’un zararlı toplulukların yayılmasını engellemek için yaptığı çalışmalardan sonra modellenen Redirect adlı bir projeyi başlattı. Google’da bu çalışma, bir insanları hedef alan sofistike kampanya aşırılık yanlısı mesajları çürütmeyi amaçlayan reklamlar ve YouTube videoları ile aşırılık yanlısı içerik aramak. Twitter da aynısını yapmayı planlıyor.
Amaç, şirketi yalnızca kötü hesaplara ve gönderilere tepki vermekten, proaktif olarak kullanıcıları daha iyi davranışlara yönlendirmeye taşımaktı.
Bir dahili proje özeti, “Twitter’ın zararlı grupları engelleme çabaları, bu grupları tanımlamaya, onları bir politika çerçevesi içinde belirlemeye, erişimlerini (grup üyeliği ve davranışları olsa da) tespit etmeye ve kohorttakileri askıya almaya veya platformdan kaldırmaya odaklanma eğilimindedir.” “Bu proje, bunun yerine, yukarı akıştaki kullanıcı davranışlarını anlamayı ve ele almayı amaçlamaktadır. Kötü hesaplar veya içerik belirlemeye odaklanmak yerine, kullanıcıların hesaplarda zararlı grup içeriğini nasıl bulduğunu anlamaya ve ardından bu çabaları yeniden yönlendirmeye çalışıyoruz.”
Geçen yıl başlayan projenin birinci aşamasında, araştırmacılar üç topluluğa odaklandı: ırksal veya etnik olarak motive edilmiş şiddet içeren aşırılık, hükümet karşıtı veya otorite karşıtı şiddet içeren aşırılık ve inceltmeler. Moonshot, ikinci bir Amerikan İç Savaşı’nı kışkırtmaya odaklanan aşırı sağcı bir grup olan Boogaloo hareketiyle ilgili bir vaka çalışmasında, ideolojilerini paylaşmak ve yaymak için Twitter’ı kullanan, topluluk içinde yüksek düzeyde etkileşime sahip 17 etkileyiciyi belirledi.
Rapor, olası müdahale noktalarını özetledi: biri bir boogaloo terimini aramaya çalıştığında ve diğeri bir parça boogaloo içeriğiyle meşgul olmak üzereyken. Raporda, “Moonshot’ın temel topluluk kimliğine yaklaşımı, kullanıcıların bu etki alanına doğru ilerlediğini vurgulayabilir ve Twitter’dan bir geçiş reklamı mesajı isteyebilir” diyor.
Ekip ayrıca, kullanıcıların aşırılık yanlısı içeriği retweetleyebilmesi için bir açılır mesaj eklemeyi de önerdi. Müdahaleler, zararlı tweet’leri bulma ve bunlarla bağlantı kurma sürecine sürtüşme eklemeyi amaçlıyordu. Doğru yapıldığında, aşırılık yanlısı içeriğin Twitter’daki etkisini azaltacak ve grupların yeni takipçiler kazanmasını zorlaştıracaktır.
Ancak bu çalışma tam olarak uygulanmadan önce Musk, şirketi satın almak için Twitter yönetim kuruluyla bir anlaşmaya vardı. Kısa bir süre sonra, Moonshot ortaklığına liderlik eden çalışanlar ayrıldı. Ve Musk’ın anlaşmayı imzalamasından bu yana geçen aylarda, sağlık araştırma ekibi neredeyse tamamen buharlaştı ve 15 çalışandan sadece ikiye çıktı.
Bir çalışan, “Şirketi Elon Musk’a satmak, şirketteki daha üst kademelerin aldığı kararların çok daha uzun bir geçmişe dayalı sicilinin, güvenliğe öncelik verilmediğini gösteren pastanın üzerine krema oldu” diyor.
Birden fazla eski araştırmacı, Musk’ın şirketi satın alma teklifiyle ilişkili kargaşanın bir kırılma noktası olduğunu ve onları başka işlere devam etmeye karar vermeye yönlendirdiğini söyledi.
“Anlaşmanın kaosu, Musk’a ait özel bir Twitter için çalışmak istemediğimi, aynı zamanda Musk’a ait olmayan halka açık bir Twitter için çalışmak istemediğimi fark etmemi sağladı.” çalışan diyor. “Artık Twitter için çalışmak istemiyordum.”
Twitter’ın hangi müdahalelerin işe yaradığını ve kullanıcıların onlarla gerçekte nasıl etkileşimde bulunduğunu anlamasına yardımcı olacak olan Yönlendirme projesinin ikinci aşaması fon aldı. Ancak para geldiği zaman, onu denetleyecek hiçbir araştırmacı yoktu. Kalan bazı çalışanlara, Musk’ın anlaşmadan çekilme girişiminde odaklandığı botlar ve spam ile ilgili projeler lehine Redirect’in önceliklerini düşürmeleri söylendi.
Twitter sözcüsü Lauren Alexander, kayıt hakkında yorum yapmaktan kaçındı.
Bir çalışan, Twitter CEO’su Parag Agrawal ve eski CEO Jack Dorsey’nin ne kadar ayakta kaldığına dair bir makalenin ekran görüntüsünü alarak, bir tweet’te ekibin hayal kırıklığını yakaladı: “Jack’in veya başka herhangi bir c-suiter’ın bu devralma hakkında ne söyleyeceğiyle tamamen ilgilenmiyorum” Musk ile yapılan anlaşmadan kazanç elde etmek için. “Hepiniz çok uzun bir merdivenden düşebilirsiniz.” (Çalışan yorum yapmayı reddetti.)
Mevcut işçilere göre, tweet’in bir iş arkadaşı için bir tehdit olduğu bildirildi ve çalışan kovuldu.