Meta ha anunciado varias medidas destinadas a identificar mejor el contenido generado por inteligencia artificial (IA) en sus plataformas. Hay mucho en juego, ya que los ciudadanos de muchos países acuden a las urnas durante todo el año.
Meta pide una estrecha colaboración en toda la industria
La empresa está en pie de guerra frente al contenido generado por IA y los deepfakes que abundan en la web. No se trata de repetir los mismos errores de 2016 y 2020, cuando sus redes sociales fueron explotadas para difundir información falsa. Hay mucho en juego aquí, ya que la inteligencia artificial y las imágenes fotorrealistas que crea se han inmiscuido en la vida cotidiana de los usuarios de Internet.
Nick Clegg, presidente de asuntos globales de Meta, anunció el próximo etiquetado de contenido generado por IA en Facebook, Threads e Instagram. La empresa está pensando en grande y pidiendo una estrecha colaboración en toda la industria. En este sentido, actualmente se encuentra desarrollando” Estándares técnicos comunes para identificar contenido creado utilizando IA, incluido contenido de video y audio. “.
Estas especificaciones técnicas, llamadas IPTC y C2PA, añaden una marca de agua invisible a los metadatos del contenido. Se anima a todos los proveedores de IA a adoptar estos estándares para los archivos de audio, vídeo y fotografías que generan sus sistemas. El objetivo es permitir que las redes sociales identifiquen contenido de IA e informen a los usuarios sobre él.
Si se adoptan ampliamente, los estándares ayudarían a reconocer el contenido generado por Google, OpenAI, Microsoft, Adobe y Midjourney. Meta dijo que también se agregaría una marca de agua a su propio generador de imágenes, Imagine.
La democracia puesta a prueba de la inteligencia artificial
Sin embargo, las tecnologías permiten eliminar las marcas de agua, un problema conocido de Meta. “ Estamos trabajando arduamente para desarrollar clasificadores que nos ayudarán a detectar automáticamente contenido generado por IA, incluso si no tiene marcadores invisibles. Al mismo tiempo, estamos buscando formas de hacer que sea más difícil eliminar o alterar marcas de agua invisibles. “, dice Nick Clegg. El dirigente también pide etiquetar las informaciones y los medios para dar fe de su autenticidad y veracidad.
Estados Unidos, Unión Europea, Indonesia, India… 2024 será un año electoral especialmente intenso. Más que nunca, los expertos temen que la IA se utilice con fines de desinformación maliciosa. Un método ya utilizado al otro lado del Atlántico este año, con un audio deepfake de Joe Biden pidiendo a los demócratas que no acudan a las urnas para las elecciones de su candidato presidencial.
Reprendido en numerosas ocasiones por su laxitud en materia de moderación, Meta quiere consolidarse como líder en la lucha contra la difusión de información falsa generada por la IA. La empresa se considera perfectamente posicionada; Además de operar las redes sociales más grandes del mundo, también lleva varios años desarrollando herramientas de IA. La tarea resulta especialmente compleja, admite, sobre todo en lo que respecta a los archivos de audio y vídeo.
About the Author
