Esta iniciativa, el fruto de una colaboración entre Google, Openai, Discord y otras grandes compañías tecnológicas, dirigidas a Proporcionar herramientas gratuitas e interoperables Para fortalecer la seguridad de Internet.
Anuncio
Una alianza estratégica para compensar la falta de recursos
Presentado durante Cumbre de acción de IA en ParísRoost reúne a expertos en IA, ciberseguridad y protección infantil de varias instituciones y empresas. Entre los fundadores también están Roblox y varias organizaciones filantrópicasque comparten un objetivo común y NBSP: para llenar el déficit en recursos de seguridad de los cuales las pequeñas empresas sufren la explosión del contenido de riesgo.
Increditado en la Universidad de Columbia, esta iniciativa se beneficia de un marco académico único para promover Innovación y cooperación entre actores privados y públicos. Roost se basa en el uso de Modelos de lenguaje extendido (LLM) Para fortalecer los sistemas de detección de contenido abusivos, ofreciendo conjuntos de datos validados para el entrenamiento de IA.
Herramientas de concreto para proteger a los niños
Uno de los pilares de Roost es proporcionar Soluciones gratuitas de código abierto a las empresas para detectar e informar contenido relacionado con el abuso sexual en menores (CSAM). Según el Centro Nacional para Niños desaparecidos y explotados (NCMEC), Más de 36.2 millones de informes vinculado a la explotación en línea se registraron en 2023, un aumento en 12 % En comparación con el año anterior.
Mientras AI acelera la transformación digital, la presión se intensifica en las plataformas para garantizar el Seguridad de usuarios jóvenes. Eric Schmidt, socio fundador de Roost, insiste en el Necesidad de un enfoque colaborativomientras que Kate Sheerin de Discord recuerda que el Conexión segura y significativa es esencial, especialmente para los más jóvenes.
Una solución accesible e inclusiva
Con 27 millones de dólares recaudados Por los socios fundadores, Roost debería operar durante Cuatro años bajo los auspicios de la Universidad de Columbia. Este esfuerzo colectivo tiene como objetivo hacer Medidas de seguridad accesibles para pequeñas empresas y organizaciones públicas, a menudo limitadas por los altos costos de moderación de IA.
Ryan Beiermeister, vicepresidente de la Política de Producto en OpenAi, enfatiza que Compartiendo esta experiencia con las estructuras más pequeñas podrían permitirles adoptar Altos estándares de seguridad sin cambiar sus presupuestos.
Desafíos técnicos para superar
Sin embargo, la adopción generalizada de Roost dependerá de su capacidad para integrarse en las soluciones existentescomo Microsoft Photodnay mantente actualizado frente a las amenazas digitales en constante evolución.
Si el objetivo es ambicioso, Las herramientas de código abierto que se ofrecen podrían cambiar la situación.especialmente en un momento en que el Las regulaciones de seguridad en línea de los menores se endurecen. La clave del éxito y NBSP: una adopción masiva y una actualización continua de infraestructura.
About the Author
