Adobe Stock, Le HuffPost
El 2 de agosto de 2025, entrarán en vigor las obligaciones del « AI Act », el primer reglamento integral de la Unión Europea sobre inteligencia artificial (IA).
La inteligencia artificial se ha vuelto un elemento imprescindible en nuestra vida diaria. Desde asistentes virtuales hasta algoritmos de recomendación, estas tecnologías son parte integral de muchos servicios que utilizamos. Ante este crecimiento exponencial, la Unión Europea ha decidido establecer un marco regulador: el **AI Act**. Adoptado en marzo de 2024, este reglamento tiene como objetivo garantizar una IA **segura**, **fiable** e **innovadora**, en la que los ciudadanos europeos puedan confiar. Pero, ¿qué significa esto realmente para los modelos de IA y para los usuarios?
¿Qué es el AI Act y su estructura de implementación?
Ronan Pons, experto en derecho de la inteligencia artificial, explica que el **AI Act** clasifica los sistemas de IA como productos que deben cumplir con ciertos estándares de seguridad. Se establecen varias categorías de riesgo: sistemas de IA con **“riesgos inaceptables”** que están prohibidos, sistemas con **“riesgos altos”**, y sistemas con **“riesgos limitados”**, donde las obligaciones varían según el nivel de riesgo. Dado que el texto es muy detallado y complejo, su implementación será gradual.
Modelos afectados por el AI Act a partir del 2 de agosto de 2025
Entre las regulaciones que comenzarán a aplicarse el 2 de agosto de 2025, se incluirá la exigencia de responsabilidades para los modelos generales de IA (GPAI). Estas son herramientas ampliamente conocidas como **ChatGPT** y **DALL-E**, que han sido entrenadas en grandes volúmenes de datos y pueden ejecutar una variedad de tareas. Se prevé que la Comisión Europea mantenga una lista pública de estos modelos.
Los modelos GPAI se dividen en dos categorías: los **“clásicos”** y aquellos que presentan **“riesgos sistémicos”**, estos últimos estarán sujetos a medidas más estrictas. Estos cambios se presentan como una respuesta a la creciente preocupación por la **seguridad** y la **etica** en la inteligencia artificial.
Obligaciones para los modelos de IA a partir del 2 de agosto de 2025
Los modelos **“clásicos”** deberán cumplir con una serie de obligaciones de **transparencia**. Esto incluye la documentación técnica que debe estar disponible para las autoridades si se solicita, así como un breve resumen que describa el modelo y su funcionamiento. También será imperativo respetar los derechos de autor, lo que podría cambiar significativamente las prácticas actuales de entrenamiento de modelos IA, muchas de las cuales han implicado la recolección de datos sin el consentimiento correspondiente.
Adicionalmente, los modelos categorizados como **“de riesgo sistémico”** estarán obligados a implementar medidas robustas de seguridad informática, junto con mecanismos para la **detección** y **reducción** de riesgos.
Comisión Europea
Las tres partes del **código de buenas prácticas** del AI Act en el sitio web de la Comisión Europea.
Declaración de fuentes para el entrenamiento de modelos de IA
Los proveedores de IA deberán declarar las fuentes de datos utilizadas para entrenar sus modelos. Esto se llevará a cabo mediante un **código de buenas prácticas** que, aunque no es vinculante, incluye recomendaciones sobre la procedencia de los datos y los nombres de los dominios más utilizados durante el entrenamiento. Aun así, la falta de un requisito de precisión puede dejar a los usuarios y titulares de derechos con pocas certezas sobre el origen de los datos.
Impacto en los derechos de autor
Para los titulares de derechos que no desean que sus obras sean utilizadas para entrenar sistemas de IA, el AI Act podría no cambiar mucho. La posibilidad de una comunicación más fácil con los proveedores se contempla, pero no garantiza que se proporcione información detallada. Esto plantea un dilema significativo sobre cómo proteger los derechos de autor en un panorama donde los modelos de IA son cada vez más prevalentes.
Consecuencias por incumplimiento y sanciones
Las sanciones para los proveedores que no cumplan con estas obligaciones pueden ascender hasta **15 millones de euros** o el **3% de sus ingresos globales**, dependiendo de cuál sea más alto. Sin embargo, se ha discutido la posibilidad de un período de gracia para la puesta en marcha de estas regulaciones.
Cambios para los usuarios de IA
Desde la perspectiva del usuario, parece que el AI Act prioriza a las instituciones y empresas más que a los consumidores. Las modificaciones que notarán serán mínimas, limitándose a la publicación de información básica relacionada con el uso de IA. Un aspecto más relevante se refiere a las etiquetas que indiquen si un contenido ha sido **generado o modificado por IA**, que se espera implementar en 2026.
¿Es el AI Act solo burocracia?
Se puede argumentar que el AI Act podría convertirse en un mero trámite burocrático, con un impacto limitado en la calidad de los sistemas de IA a corto plazo. Sin embargo, también se reconoce que, si se implementan correctamente las obligaciones, hay un potencial significativo para mejorar la calidad y la **responsabilidad** en el uso de la inteligencia artificial, equilibrando la innovación con la protección del usuario y los derechos de autor.
El AI Act representa un paso significativo hacia la regulación de la inteligencia artificial en Europa. Aunque la implementación será gradual y presenta muchos desafíos, su objetivo es crear un entorno más seguro y responsable en el uso de la IA, promoviendo la confianza de la sociedad en estas tecnologías emergentes.
About the Author
