Google’ın Jigsaw birimi, adı verilen açık kaynaklı bir taciz önleme aracının kodunu yayınlıyor. Taciz Müdürü. Gazeteciler ve diğer tanınmış kişiler için tasarlanan araç, kullanıcıların Twitter’dan başlayarak sosyal medya platformlarında potansiyel olarak kötüye kullanım içeren yorumları sıralamasına izin vermek için Jigsaw’ın Perspektif API’sini kullanıyor. Geliştiricilerin üzerine inşa etmeleri için kaynak kodu olarak çıkış yapıyor, ardından Haziran ayında Thomson Reuters Vakfı gazetecileri için işlevsel bir uygulama olarak piyasaya çıkıyor.
Taciz Yöneticisi, tweet yanıtlarını gizleme ve hesapları sessize alma veya engelleme gibi denetleme seçeneklerini toplu bir filtreleme ve raporlama sistemiyle birleştirmek için şu anda Twitter’ın API’siyle birlikte çalışabilir. Perspektif, mesajların dilini tehdit, hakaret ve küfür gibi unsurlara dayalı olarak “toksisite” düzeyleri açısından kontrol eder. Mesajları, kullanıcıların Twitter’ın varsayılan denetleme araçları aracılığıyla tek tek değil toplu olarak ele alabilecekleri bir gösterge panosunda sıralar halinde sıralar. Bunu yaparken mesajların metnini bulanıklaştırmayı seçebilirler, böylece her birini okumalarına gerek kalmaz ve otomatik olarak oluşturulan kuyrukları kullanmanın yanı sıra anahtar kelimeleri arayabilirler.
Taciz Yöneticisi ayrıca kullanıcıların kötüye kullanım amaçlı mesajlar içeren bağımsız bir rapor indirmesine izin verir; bu, işverenleri veya doğrudan tehditler gibi yasa dışı içerik olması durumunda kolluk kuvvetleri için bir kağıt izi oluşturur. Ancak şimdilik, kullanıcıların indirebileceği bağımsız bir uygulama yok. Bunun yerine, geliştiriciler, Thomson Reuters Vakfı gibi ortaklar tarafından başlatılacak olan, işlevselliğini ve hizmetlerini içeren uygulamaları özgürce oluşturabilirler.
Jigsaw, Uluslararası Kadınlar Günü’nde Taciz Yöneticisini duyurdu ve aracı özellikle toplumsal cinsiyete dayalı tacize maruz kalan kadın gazeteciler için uygun olarak çerçeveledi ve “büyük Twitter varlığına sahip gazeteciler ve aktivistlerin” yanı sıra Uluslararası Kadın Medya Vakfı ve Kar amacı gütmeyen kuruluşlardan gelen girdileri vurguladı. Gazetecileri Koruma Komitesi. Bir Orta gönderide, ekip, geliştiricilerin onu diğer risk altındaki sosyal medya kullanıcıları için uyarlayabileceğini umduğunu söylüyor. Yazıda, “Umudumuz, bu teknolojinin çevrimiçi tacize maruz kalan insanlar, özellikle kadın gazeteciler, aktivistler, politikacılar ve çevrimiçi olarak orantısız derecede yüksek toksisite ile uğraşan diğer halka açık kişiler için bir kaynak sağlamasıdır.”
Google, daha önce otomatik denetleme için Perspektif’ten yararlandı. 2019’da, sosyal medya kullanıcılarının toksik olma olasılığı yüksek mesajları görmekten kaçınmasını sağlayan Tune adlı bir tarayıcı uzantısı yayınladı ve birçok yorum platformu (Vox Media’s Coral dahil) insan denetimini desteklemek için. Ancak Perspective and Tune’ın piyasaya sürülmesi sırasında belirttiğimiz gibi, dil analizi modeli tarihsel olarak mükemmel olmaktan uzaktı. Bazen hiciv içeriğini yanlış sınıflandırır veya kötüye kullanım amaçlı mesajları tespit edemez ve Jigsaw tarzı AI bunu yapabilir. terimleri yanlışlıkla ilişkilendirmek “kör” veya “sağır” gibi – ki bunlar mutlaka olumsuz değildir – toksisite ile. Yapbozun kendisi de bir toksik işyeri kültürüGoogle iddialara itiraz etse de.
farklı Yapay zeka destekli denetleme Ancak, Twitter ve Instagram gibi hizmetlerde Taciz Yöneticisi bir platform tarafı denetleme özelliği değildir. Görünüşe göre, sosyal medya geri bildirimlerinin bazen ezici ölçeğini yönetmeye yardımcı olmak için bir sıralama aracı, şu anda kullanamasalar bile, gazetecilik alanının çok dışındaki insanlar için alakalı olabilecek bir şey.