Google, Openai, Roblox ve Discord, çocuk güvenliğini çevrimiçi olarak geliştirmeye yardımcı olmak için kar amacı gütmeyen yeni bir kuruluş oluşturdu. . Sağlam açık çevrimiçi güvenlik araçları (tünek) Girişim, temel güvenlik teknolojilerini şirketler için daha erişilebilir hale getirmeyi ve çocuk cinsel istismarı materyallerini tanımlamak, gözden geçirmek ve raporlamak için ücretsiz, açık kaynaklı AI araçları sağlamayı amaçlamaktadır.
Kurucu Roost ortağı ve eski Google CEO’su Eric Schmidt’e göre, girişim, üretken AI gelişmelerinin çevrimiçi ortamlarda yaptığı değişikliklerle kısmen motive edildi ve “çevrimiçi çocuk güvenliğinde inovasyonu hızlandırmak için kritik bir ihtiyacı” ele almayı amaçladı. CSAM algılama araçları ile ilgili ayrıntılar, büyük dil AI modellerini kullanacak ve içerikle uğraşmak için mevcut seçenekleri “birleştirecekler”.
Schmidt, “Çocuk korumasına odaklanan bir platformdan başlayarak, Roost’un işbirlikçi, açık kaynaklı yaklaşımı yeniliği teşvik edecek ve temel altyapıyı herkes için daha güvenli bir internet yaratmak amacıyla daha şeffaf, erişilebilir ve kapsayıcı hale getirecek” dedi.
Roost Like Discord’un bazı kurucu üyeleri finansman sağlarken, diğerleri projeye araçlarını veya uzmanlıklarını açıyor. Roost, önde gelen AI Foundation Model geliştiricileriyle, içerik önlemleri için bir “uygulama topluluğu” oluşturmak için ortaklık kurduğunu ve bu da denetlenmiş AI eğitim veri kümeleri sağlanmasını ve güvenlikte boşlukların tanımlanmasını içerecek olduğunu söylüyor.
Girişim, “zaten var olan araçları” daha erişilebilir hale getireceğini, üye kuruluşlarından çeşitli algılama ve raporlama teknolojisini, diğer şirketlerin uygulaması daha kolay olan birleşik bir çözümde etkili bir şekilde birleştireceğini söylüyor. Roblox’un Mühendislik, Güven ve Güvenlik Başkan Yardımcısı Naren Koneru, söylenmiş Hızlı şirket Bu tünek, şirketlerin API çağrıları aracılığıyla entegre edebileceği AI denetleme sistemlerine ev sahipliği yapabilir. Bununla birlikte, Roost’un yapay zeka ılımlılık araçlarının hangi belirsizlikleri içeriyor.
Yanında tünek katılımıDiscord, kullanıcıların sessizleştirdikleri kişileri bilgilendirmeden aldıkları mesajları ve bildirimleri gizlemelerine olanak tanıyan yeni bir “Yoksay” özelliği yayınladı. “Discord olarak, güvenliğin ortak bir mal olduğuna inanıyoruz,” dedi Discord’un baş hukuk memuru Clint Smith, tünek duyurusunda. “Özellikle gençler için daha iyi ve daha güvenli bir yer olan tüm interneti – sadece anlaşmazlık değil – yapmaya kararlıyız.”
Roost, McGovern Vakfı, Online Güven ve Güvenlik Fonu’nun Geleceği, Knight Foundation ve AI işbirliği dahil olmak üzere hayırsever kuruluşlar tarafından desteklenen ilk dört yıllık operasyonlarını desteklemek için 27 milyon dolardan fazla para topladı. Basın bültenine göre, tünek organizasyonu çocuk güvenliği, yapay zeka, açık kaynaklı teknoloji ve “şiddetli aşırılıkçılığa karşı koyma” uzmanları tarafından da desteklenecek.
