TikTok presenta la etiqueta “generada por IA”

TikTok se convierte en la primera gran red social en lanzar una herramienta para indicar si el contenido fue generado por inteligencia artificial (IA). Objetivo: “ Encuentre una forma clara, intuitiva y matizada de mantener informada a la comunidad sobre el contenido generado por IA. », indica la empresa en una publicación de blog.

Prevenir los peligros de la IA

Si bien cada vez se utilizan más modelos para generar contenido, también pueden explotarse con fines maliciosos, por ejemplo, para difundir información falsa. Para evitar este peligro, TikTok está introduciendo una nueva herramienta para ayudar a los creadores a etiquetar su contenido generado por IA. Lo probó en distintos mercados antes de su lanzamiento oficial.

“ La IA ofrece increíbles posibilidades creativas, pero también puede confundir o engañar a los espectadores si no saben que el contenido fue generado o editado utilizando IA. El etiquetado de contenido ayuda a solucionar este problema, indicando claramente a los espectadores cuándo el contenido ha sido alterado o modificado significativamente por la tecnología de inteligencia artificial. », Explica la plataforma.

La opción ” Contenido generado por IA » aparecerá al descargar un video o fotos. Luego, el creador puede activarlo. “ La nueva etiqueta ayudará a los creadores a mostrar las innovaciones detrás de su contenido y podrán aplicarla a cualquier contenido que haya sido generado en su totalidad o modificado significativamente por IA. », continúa TikTok.

Al mismo tiempo, la aplicación está comenzando a probar una etiqueta “generada por IA” que se aplicará automáticamente al contenido editado o creado por un modelo de IA. TikTok cuenta con un mecanismo para detectarlos, aunque aún se desconoce su fiabilidad.

Otras plataformas deberían seguir

TikTok es la primera de las redes sociales más grandes en introducir una medida de este tipo. Instagram también está desarrollando sus propias etiquetas, que deberían ser obligatorias. Por su parte, YouTube está diseñando nuevas herramientas para hacer frente al “ tsunami de inteligencia artificial ”, mientras que X se basa en las calificaciones de la comunidad para ayudar a mantener a los usuarios informados sobre el contenido generado por IA.

Las regulaciones tecnológicas que están surgiendo en todo el mundo consideran que estas etiquetas son esenciales para prevenir los riesgos que supone. Este es uno de los puntos de la legislación europea sobre la IA, mientras que 15 empresas estadounidenses se han comprometido, en la Casa Blanca, a permitir a los consumidores identificar los contenidos generados por la máquina gracias a un sistema de marca de agua.