Google’ın kuluçka yan kuruluşu Yapboz Daha küçük şirketlerin çevrimiçi platformları aracılığıyla paylaşılan aşırı içeriklerle mücadele etmelerine yardımcı olmak için tasarlanmış bir terörle mücadele aracını açık kaynaklı hale getirdi.
Meta, X ve Google’ın kendisi de dahil olmak üzere büyük teknoloji şirketlerinin çoğu, yasadışı veya toksik içerikleri ayıklamak için içerikleri denetleme konusunda oldukça bilgili olsa da, bunu yapmak için gereken kaynaklar birçok küçük dijital oyuncunun imkanlarının ötesindedir. Bu, Avrupa’nın Dijital Hizmetler Yasası (DSA) ve terörizme özgü içerik kuralları gibi mevzuatların şirketleri yasadışı içeriği derhal kaldırma konusunda artan bir baskı altına soktuğu bir zamanda özellikle sorunludur.
2016’da yeniden markalaşmadan önce Google Ideas olarak bilinen Jigsaw, yanlış bilgilendirme, sansür ve çevrimiçi ortamda toksisite ve aşırılıkçı içeriklerin yayılması gibi toplumsal sorunları ele alan yeni ürünler geliştirmeye ve denemeye odaklanmıştır. Geçtiğimiz Kasım ayında Jigsaw duyuruldu yeni bir çevrimiçi içerik denetleme aracı YükseklikBu, moderatörlerin platformlarındaki içeriklerin üçüncü taraf veritabanlarında işaretlenen içeriklerle eşleşip eşleşmediğini doğrulamalarına yardımcı olur; böylece her bir kaynağı tek tek kontrol etmek zorunda kalmazlar.
Altitude, ortaklaşa geliştirildi Terörizme Karşı TeknolojiBirleşmiş Milletler Terörle Mücadele Komitesi Yürütme Müdürlüğü (CTED) tarafından 2017’de başlatılan bir girişimdir. Tech Against Terrorism’in görevi, teröristlerin zararlı içerik yaymak için interneti kullanmalarını engellemek için daha etkili araçlar geliştirmede teknoloji sektörünü desteklemektir. Araç ayrıca, endüstri liderliğindeki kıyafet Üyeleri arasında büyük teknoloji şirketlerinin de bulunduğu Terörle Mücadele Küresel İnternet Forumu (GIFCT).
Dokuz ay geçti ve Jigsaw artık Altitude’u resmi olarak Tech Against Terrorism’e devrediyor ve bu şirket geliştirme ve bakımını sürdürecek. kod artık GitHub’da da mevcut Apache 2.0 lisansı altında, yani şirketler aracı kendi kendilerine barındırabiliyor ve üçüncü taraflar kodu inceleyebiliyor.
Altitude nasıl çalışır?
Altitude, üyeleri otomatik içerik denetleme araçlarını (örneğin Altitude) güçlendirmek amacıyla özel bilgilerini bir araya getiren GIFCT gibi şirketler tarafından sağlanan “güvenilir” veri kaynaklarına ve Tech Against Terrorism’in kendi verilerine dayanmaktadır. Terörist İçerik Analitiği Platformugerçek zamanlı, doğrulanmış terörist içerik veritabanı. Güvenilir kaynaklar, bu tür içerikleri kendi yöntemlerini kullanarak belirler ve işaretler.
Altitude, bu veritabanlarına akarak, “terörist ve şiddet yanlısı aşırılıkçı içerik” (TVEC) olarak adlandırdığı içeriği tek bir görünümde birleştiriyor ve moderatörler, içerikleri hızlı bir şekilde görüntüleyebiliyor, inceleyebiliyor ve kaldırabiliyor ve faaliyet gösterdikleri yargı alanındaki yükümlülüklerine uyabiliyor. Hiçbir içeriğin otomatik olarak kaldırılmadığını belirtmekte fayda var, her şey işaretlemek ve insanların değerlendirmesi için potansiyel aşırılıkçı içeriklere ilişkin uyarılar sağlamakla ilgili.
Ne Jigsaw ne de Tech Against Terrorism, Altitude’un ilk test döneminde hangi platformları kullandığını açıklamadı; ancak onu kullanma olasılığı en yüksek olan uygulama türleri arasında mesajlaşma uygulamaları, URL kısaltma servisleri, video barındırma siteleri, çevrimiçi forumlar, sosyal ağlar ve pastebin’ler yer alıyor.
Jigsaw bir yazı yazdı blog yazısı Pazartesi:
Bir yıl boyunca Jigsaw, farklı büyüklüklerdeki on bir platformda kurucular, güven ve emniyet liderleri ve TVEC içerik incelemecileriyle görüşmeler gerçekleştirdi. Platformlar arasında resim paylaşım platformları, sosyal medya siteleri, URL kısaltma hizmetleri ve dosya ve metin depolama siteleri yer alıyordu. Platformların TVEC’yi yönetmek için kaynak ve hazırlık ölçeğinde var olduğunu ve bu hazırlık düzeyinin kuruluşlarının veya kullanıcı tabanlarının büyüklüğüyle düzgün bir şekilde ilişkili olmadığını bulduk. Nispeten olgun hizmetler bile bazen platformlarındaki zararları proaktif bir şekilde belirlemek için sinyallerden yoksundu. Ayrıca, sonunda tüm araçları şirket içi bir platforma entegre etmeyi tercih etseler de, özel zararlar için ayrı bir arayüzün yetersiz kaynaklı bir ortamda başlamak için bir yol sağlayabileceğini gördük.
Açık kaynaklı bir proje olması nedeniyle herhangi bir şirket Altitude’u kendi platformlarına entegre edebilir veya “özel yerleştirme desteğine” erişmek için Tech Against Terrorism ile çalışabilir.
Jigsaw ve Tech Against Terrorism, gelecekte veri kaynaklarına “özel veritabanları” ekleyebileceklerini ve aracı İngilizcenin ötesine genişletmeyi planladıklarını söylüyor.