Eski Meta çalışanlarından oluşan bir girişim, internetin en karmaşık ve tehlikeli sorunlarından bazılarıyla boğuşan şirketler için içerik denetleme sürecini kolaylaştırmayı amaçlıyor.
Kendini “güven ve emniyet için işletim sistemi” olarak tanımlamayı seven Cinder, güvenlik ve içerik politikası çalışmalarında yılların birleşik deneyimine sahiptir. Buna, Meta’da eski bir kırmızı ekip mühendisi olan CEO ve kurucu ortak Glen Wise, Meta’da tehdit istihbaratı üzerinde çalışan Philip Brennan ve Declan Cummings ve Facebook’un terörle mücadele ve tehlikeli örgütler ekibinin eski yöneticisi Brian Fishman dahildir.
Cinder, Mayıs ayında bir başlangıç turuna ve bu ay Y Combinator’ın katılımıyla 12,8 milyon dolarlık bir A Serisine liderlik eden risk şirketi Accel tarafından destekleniyor. Şirket bu yılın Ocak ayında kuruldu ve bugüne kadar toplam 14 milyon dolar topladı.
TechCrunch ile konuşan Wise, Cinder’ı, dağınık veri kümelerini tek bir kullanıcı arabiriminde bir araya getirebilen Salesforce ve Zendesk gibi iş yazılım platformlarına benzetti. Ancak Cinder ile satış veya müşteri hizmetleri ekiplerinin verileri izlemesi ve elemesi yerine, içerik moderatörleri ve bir şirketin güven ve güvenlik ekiplerinin diğer üyeleri, hassas bir iş akışını amaca yönelik tek bir araçta merkezileştirebilir.
Wise, şu anda güven ve güvenlik için sağlam iş akışlarına sahip olmayan şirketlerin hata izleme gibi farklı kullanım durumları için oluşturulmuş sistemlere beceriksizce bel bağladığını söylüyor.
“Birçok güven ve emniyet başkanıyla konuşmaya başladım. [and] Wise, TechCrunch’a verdiği demeçte, diğer birçok büyük internet şirketi, dürüst olmak gerekirse sosyal medyanın dışında da birçoğu ve bunun çoğunu operasyonel olarak nasıl çözecekleriyle mücadele ediyorlardı. “Gerçekten zeki insanları işe alacaklardı ama elektronik tablolara, SQL ifadelerine ve geçmişin bu tür dünyasında sıkışıp kalacaklardı, çünkü bunun için özel olarak oluşturulmuş araçları yoktu.”
Örneğin, bu sistemlerden birini kullanan bir içerik moderatörü bir sosyal medya gönderisini incelemek isterse, ilgili herhangi bir şeyi görüntülemek için hata izleme aracına geri dönmeden önce söz konusu içeriği görüntülemek için o ortamdan ayrılmalı ve bir URL’yi takip etmelidir. bağlam ve girdilerini sağlar.
Wise, “Bir buçuk saat kadar sonra, aslında bir karar verebilirler,” dedi. “Ve bu yüzden bunların hepsini kutunun dışında yapmak istiyoruz.” Wise, şimdiye kadar Cinder’in çoğunlukla güven ve emniyet operasyonları kurmuş olan veya bu iş akışlarının nasıl olması gerektiğini çözme sürecinde olan büyük şirketlere hitap ettiğini söylüyor.
Kullanıcı tarafından oluşturulan içeriği barındıran sosyal ağlar ve diğer şirketler için, güven ve güvenlik ekiplerinin karşılaştığı tehditler çeşitli olduğu kadar karmaşıktır. Güven ve emniyet oluşturan şirketler, hedeflenen taciz ve nefret gruplarından çocukların cinsel istismarı materyallerine kadar her konuda uzmanlığı bir araya getirmelidir (CSAM) ve devlet destekli etki operasyonları.
Bu alanlarda ılımlı kararlar vermek, ırkçı bir hakaret kullanan tek bir metin gönderisini işaretlemek kadar basit olabilir – yalnızca birkaç saniye sürebilecek bir karar – veya devlet destekli gizli bir etki kampanyası yürüten yüzlerce hesabı birbirine bağlamak kadar incelikli olabilir. aylar süren süreç.
Resmi tespit ve raporlama iş akışlarının bunu yansıtması nedeniyle bazı içerikler tamamen yasa dışı olsa da, yaptırım kararlarının çoğunu çözmek özel şirketlere düşüyor. Ve son yıllarda tekrar tekrar gördüğümüz gibi, çevrimiçi olarak hangi içeriğe izin verildiğini ve hangi içeriğin izin verilmediğini tanımlayan kurallar, gerçek zamanlı olarak yanıt veren, ikiye katlanan ve gelişen canlı belgelerdir.
Cinder, bu politikaları ve gerekli bağlamı merkezileştirmeyi amaçlayarak, bir dezenformasyon kampanyasının veya bir seçimi baltalamaya yönelik koordineli bir çabanın gerektirebileceği türden bir çalışma olan “dinamik soruşturmaları” kolaylaştırmaya devam ederken geniş ölçekte doğrudan karar vermeyi mümkün kılar. Platform kendi başına herhangi bir algılama yapmaz ve kuralları belirlemez, bu tamamen yazılımını lisanslayan şirketlere bağlıdır. (Şimdilik, Cinder hiçbir müşterisinin adını vermiyor.)
Wise ayrıca, Cinder’ın içerik inceleme süreci için tasarlandığından, şirketin web’in duygusal açıdan en zorlu çalışmalarından bazılarının insan unsuruna uyum sağlayabildiğini ve bu ihtiyaçlar için “sıfırdan” inşa edildiğini belirtiyor. Bu içerir bulanıklaştırma gibi gelişmekte olan endüstri standardı uygulamalar ve gri tonlama veya özellikle zorlu bir şeyi izledikten sonra moderatörleri ara vermeye teşvik etmek. Bu müdahaleler ve diğerleri, içerik gözden geçirenler için başka türlü kalıcı olabilecek zararları hafifletebilir.
Wise, TechCrunch’a “Bence birçok insan moderatör olmanın ve bu içeriğin çoğuna bakmanın ne kadar zor bir iş olduğunu anlıyor” dedi. “Bunun gerçekten ödüllendirici olan yanı, şirketlerin gerçekten güvenlik önlemlerine yatırım yapmaya çalışması ve bunları sağlamak için üçüncü bir tarafa bakması.”
Moderatör güvenliği endişelerinin ötesinde Wise, Cinder’in güvenlik ve mahremiyetin her düzeyde dikkate alınarak oluşturulduğunu ve bunun da güçlü bir güvenlik geçmişine sahip bir ekibe doğal olarak geldiğini söylüyor. Hassas tanımlayıcı bilgileri veya diğer verileri kolayca gizlemeyi mümkün kılan ve önceden tanımlanmış gruplara farklı düzeylerde erişim sağlayan, yazılım içinde “sağlam” bir izin sistemini açıklıyor.
Wise, “Ürünü kullanan birkaç müşterimiz var ve bu konuda gerçekten mutlular,” dedi. “İnsanlar bunun için gerçekten araçlara sahip olmadılar… ve insanlar bunu görmekten gerçekten heyecan duyuyorlar, tamam, bunu daha önce yapmış bir grup insan var, tam olarak kullanım durumu için oluşturmaya yardımcı olabilecek, bu gerçekten harika. ”