Hace unas semanas, China anunció que quería limitar la difusión de deepfakes, estos videos generados por un software de inteligencia artificial. Esta vez es oficial: la nueva ley china para regular los deepfakes entró en vigor el 10 de enero de 2023. Beijing es el primer gobierno en implementar tales reglas.
China se convierte en el primer país en regular deepfakes
Durante los últimos días, la Administración del Ciberespacio de China (el regulador web en China) ha estado aplicando nuevas regulaciones para limitar la producción y difusión de deepfakes En la red. Esta iniciativa es el primer intento mundial de frenar uno de los usos más controvertidos de los avances de la IA. De hecho, las nuevas herramientas de inteligencia artificial plantean muchos desafíos a los reguladores de todo el mundo.
En los últimos años, muchos artículos de noticias chinos han detallado casos de uso de deepfakes solían “ estafar a la gente ». Por ejemplo, un hombre que vive en Wenzhou afirmó que los delincuentes usaron un deepfake para hacerse pasar por un amigo. Esta versión falsa de su amigo le exigió $7,200. En marzo de 2021, la Administración del Ciberespacio de China decidió tomar medidas enérgicas tras la difusión de deepfakes de personalidades chinas.
Las oportunidades que ofrecen herramientas como ChatGPT, el ya famoso generador de texto desarrollado por OpenAI, o Lensa, software para desarrollar avatares digitales personalizados, plantea muchas preguntas. El contenido generado por inteligencia artificial ahora será considerado en China como ser » engañadores » y como poder desinformación de combustible en la web y redes sociales.
Las nuevas regulaciones chinas prohíben en particular el uso de contenido generado por IA para difundir información falsa o información considerada » perjudicial para la economía o la seguridad nacional «. Categorías voluntariamente vagas, que dejan a las autoridades gran libertad de interpretación. Esta ley también requiere que los proveedores de tecnologías relacionadas con la IA, incluidas empresas, organizaciones de investigación e individuos, indiquen de manera visible que su contenido fue creado por inteligencia artificial.
En los Estados Unidos, los legisladores estadounidenses también han tratado de abordar la proliferación y el posible abuso asociado con las falsificaciones profundas. Se encontraron con problemas de libertad de expresión. Dentro de la Unión Europea, los reguladores han hecho un buen progreso pero parecen haber adoptó un enfoque más cauteloso que China. Recomiendan que las plataformas encuentren formas de mitigar la capacidad de los deepfakes para difundir información falsa, sin prohibirla.
Según Graham Webster, investigador de la Universidad de Stanford al frente del proyecto DigiChina, » China está aprendiendo con el resto del mundo sobre los efectos potenciales de estas nuevas tecnologías, pero está adoptando nuevas reglas más rápidamente. Otros países tendrán que observar cómo evoluciona la situación en China. «.