Google está desarrollando una herramienta de moderación gratuita que los sitios web más pequeños pueden usar para identificar y eliminar material terrorista, ya que la nueva legislación en el Reino Unido y la UE obliga a las empresas de Internet a hacer más para abordar el contenido ilegal.
El software se está desarrollando en asociación con la unidad de investigación y desarrollo del gigante de las búsquedas, Jigsaw and Tech Against Terrorism, una iniciativa respaldada por la ONU que ayuda a las empresas tecnológicas a vigilar el terrorismo en línea.
“Hay muchos sitios web que simplemente no tienen gente para hacer cumplir la ley. Es una cosa realmente laboriosa incluso construir los algoritmos [and] entonces necesitas todos esos revisores humanos”, dijo Yasmin Green, directora ejecutiva de Jigsaw.
“[Smaller websites] no quiero contenido de Isis allí, pero hay una tonelada por todas partes [them],” ella añadió.
La medida se produce cuando las empresas de Internet se verán obligadas a eliminar el contenido extremista de sus plataformas o enfrentarán multas y otras sanciones en virtud de leyes como la Ley de Servicios Digitales de la UE, que entró en vigor en noviembre, y el proyecto de ley de Seguridad en Línea del Reino Unido, que es se espera que se convierta en ley este año.
La legislación ha sido impulsada por políticos y reguladores de toda Europa que argumentan que los grupos de Big Tech no han ido lo suficientemente lejos para controlar el contenido en línea.
Pero el nuevo régimen regulatorio ha generado preocupaciones de que las nuevas empresas más pequeñas no están equipadas para cumplir y que la falta de recursos limitará su capacidad para competir con empresas de tecnología más grandes.
“He notado un gran cambio en la [leading] las plataformas se vuelven mucho más efectivas para moderar, y eso empuja el contenido terrorista y las afirmaciones falsas de Covid a [other sites]”, agregó Verde.
Un informe del Foro Global de Internet para Contrarrestar el Terrorismo en 2021 estimó que por cada 10.000 publicaciones en Facebook, seis tendrían contenido terrorista o extremista. En plataformas más pequeñas, esta cifra podría llegar a 5000, o el 50 por ciento del contenido.
GIFCT, una organización no gubernamental fundada por Facebook, Microsoft, Twitter y YouTube en 2017 para fomentar asociaciones entre muchas plataformas tecnológicas, apoya el proyecto de Jigsaw. La organización no gubernamental tiene una base de datos de contenido terrorista compartida entre sus miembros de empresas tecnológicas, que los sistemas de moderación pueden usar para detectar materiales existentes.
El 13 de diciembre, el propietario de Facebook e Instagram, Meta, lanzó un software de código abierto que otras plataformas pueden implementar para hacer coincidir el contenido terrorista con imágenes o videos existentes en la base de datos y resaltarlos para una revisión humana urgente.
La herramienta de Jigsaw tiene como objetivo abordar el siguiente paso del proceso y ayudar a los moderadores humanos a tomar decisiones sobre el contenido marcado como peligroso e ilegal. Comenzará las pruebas con dos sitios sin nombre a principios de este año.
“Según nuestra experiencia, encontramos que los terroristas buscan explotar plataformas más pequeñas donde la moderación del contenido es un desafío debido a los recursos limitados”, dijo Adam Hadley, director de Tech Against Terrorism.
Jigsaw tiene alrededor de 70 empleados, principalmente en las oficinas de Google en Nueva York. Green, quien se convirtió en director ejecutivo en julio, dijo que no se esperaba que la división deficitaria se volviera rentable.
“Se entiende que hay un rendimiento comercial a largo plazo. . . Google necesita una Internet más saludable”, agregó Green. “Estamos ayudando a Google y ayudando a Internet de una manera que genera valor, aunque no sea monetario”.