Las instituciones de la Unión Europea publicaron la semana pasada varias recomendaciones para moderar mejor los contenidos publicados en las principales plataformas online, Facebook, Google, TikTok o X, antes Twitter. Estos apuntan particularmente a la inteligencia artificial (IA) generativa y los deepfakes, que son cada vez más comunes, particularmente durante los períodos electorales.
La UE quiere que el contenido generado por IA sea claramente identificable
Si bien las elecciones europeas se celebrarán en mayo de 2024, el espectro de las noticias falsas acecha. Si a finales de la década de 2010 el tema era muy preocupante, lo es la llegada de deepfakes cada vez más sofisticados. Estos se generan utilizando IA que funcionan con modelos de lenguaje grandes (LLM). Estas herramientas son capaces de generar textos muy creíbles, e incluso imágenes, extractos de audio o vídeo muy realistas.
“ En particular, la IA generativa puede utilizarse para engañar a los votantes o manipular procesos electorales mediante la creación y difusión de contenidos sintéticos no auténticos y engañosos sobre actores políticos, tergiversaciones de acontecimientos, encuestas electorales, contextos o historias, » indica la UE. La semana pasada, las autoridades europeas definieron las líneas generales de la directiva sobre la lucha contra la violencia contra las mujeres. Dio un lugar de honor a la lucha contra los deepfakes pornográficos. Ahora la UE está abordando usos de la IA generativa que perjudican el proceso democrático europeo.
Una sugerencia para limitar estos usos sería etiquetar el contenido generado por IA. Esta marca de agua o esta mención debe ser visible para todos los usuarios de Internet y mantenerse si el contenido se comparte. Al otro lado del Atlántico, un consorcio de 200 empresas está trabajando en la creación de una etiqueta de este tipo que no sería visible inmediatamente, pero estaría presente en los metadatos del contenido generado.
Para implementar este etiquetado, la UE quiere basarse en la Ley de IA, aprobada a principios de mes por los 27 Estados miembros. Este reglamento contiene varias medidas relacionadas con la IA generativa, que la Unión considera “ particularmente relevante en este contexto “. El marco legislativo exige a los proveedores de sistemas generativos que utilicen soluciones técnicas de última generación para garantizar que el contenido que han creado esté marcado como tal.
Además, la UE utilizaría la Ley de Servicios Digitales, el reglamento europeo sobre moderación y gobernanza de contenidos, para animar a las redes sociales a encontrar soluciones para identificar estos contenidos. Meta ya ha abordado la cuestión, que considera crucial. La firma de Mark Zuckerberg ha llamado a toda la industria digital a colaborar para introducir marcas de agua en los metadatos de los contenidos generados por la IA. Finalmente, OpenAI busca codificar las imágenes generadas por DALL-E para rastrear su procedencia.