En un momento en que la inteligencia artificial está redefiniendo los contornos de nuestra sociedad, Europa debe afrontar un desafío fundamental: garantizar la protección de los derechos de sus ciudadanos y al mismo tiempo permitir la innovación. Lejos de ser cuestiones independientes, la IA y la gobernanza de datos son dos caras de la misma moneda. Deben estar alineados para preservar nuestros derechos y al mismo tiempo fomentar un futuro tecnológico próspero y ético.
La IA no se está desarrollando en un vacío tecnológico. Se alimenta de grandes cantidades de datos, muchos de los cuales son datos personales. Por eso es necesario integrar a las autoridades reguladoras públicas y a terceros neutrales de confianza en el centro de la gobernanza de la IA. Ese es el objetivo de la convocatoria lanzada por la CNIL europea tras la reunión del G7 en Roma los días 3 y 4 de octubre y su mesa redonda de autoridades de protección de datos y privacidad.
Las regulaciones europeas actuales: el GDPR, la AI Act y la Data Governance Act, sientan bases sólidas, pero no son suficientes por sí solas.
Tenemos que terminar el trabajo.
Educar y concienciar a la ciudadanía sobre el uso de los datos es un gran desafío. Cada individuo debe poder comprender cómo se recopilan, almacenan y utilizan sus datos pero sobre todo tener la posibilidad de posicionarse frente a los riesgos y oportunidades que ofrecen estas nuevas tecnologías.
La Ley IA y el RGPD exigen que las organizaciones informen a sus usuarios sobre el uso de los datos recopilados y les permitan ejercer derechos de oposición o control. Pero no se imponen medios concretos para garantizar la implementación efectiva de este control.
La Ley de Gobernanza de Datos (DGA) establece una medida concreta: intermediarios de datos, terceros neutrales de confianza, que garantizan la transparencia del uso de los datos por parte de la IA. Por lo tanto, los intermediarios de datos tienen la misión de devolver efectivamente el control de sus datos a los usuarios, pero… La DGA no vincula de ninguna manera esta oportunidad a las obligaciones de los actores privados. En este marco, o más bien sin él, cada organización es libre de decidir cómo informa o permite el ejercicio de estos derechos sobre los datos.
Es coherente sobre el papel, pero en realidad es incomprensible para los ciudadanos. A menudo tenemos que enviar cartas y pasar por largos procesos e intercambios para finalmente obtener información sobre nuestros datos y posiblemente el derecho a borrarlos. Por tanto, la ley se aplica en la letra pero no en el espíritu, lo que hace que perdamos todos sus beneficios.
Para que este derecho deje de ser una cruz para el usuario, la coordinación de los reguladores es un elemento clave. Se deben aunar esfuerzos entre los reguladores de datos, competencia, telecomunicaciones e inteligencia artificial para garantizar una gobernanza coherente. La fragmentación regulatoria sólo debilita la protección de nuestros datos y limita significativamente las innovaciones que las empresas que los utilizan podrían ofrecer.
Estados Unidos está luchando por seguir el ritmo europeo en términos de regulación.
En Estados Unidos, la estrategia de gobernanza de datos es muy diferente: los estadounidenses anteponen la innovación a la protección de los derechos de los ciudadanos. El ejemplo reciente del veto del gobernador de California, Gavin Newsom, a la SB 1047, cuyo objetivo era imponer obligaciones estrictas a los gigantes tecnológicos para prevenir desastres relacionados con los modelos de IA, refleja todas nuestras diferencias sobre el tema.
Este texto, aunque ambicioso, habría establecido las medidas de protección necesarias: como la evaluación anual de los modelos de IA y un protocolo de seguridad avanzado que incluye un “interruptor de apagado”. La presión de empresas tecnológicas y fondos de inversión provocó que la ley se diluyera antes de su rechazo definitivo.
Mientras Europa se esfuerza por fortalecer la regulación de datos, Estados Unidos se niega a imponer leyes restrictivas a los gigantes tecnológicos. Esta diferencia es reveladora: si queremos garantizar que la IA sea un motor de progreso y al mismo tiempo proteja nuestros derechos, debemos seguir avanzando, aunando esfuerzos y fortaleciendo la coherencia de nuestro marco legislativo. Si no damos a estos textos una dimensión práctica, mediante la implementación de medios de cumplimiento simples y estandarizados, con herramientas como los intermediarios de datos, es un esfuerzo perdido.
Estas regulaciones, si llegan a ser efectivas, darán frutos.
En primer lugar, en última instancia contribuirán a acelerar la innovación al permitir que todas las partes interesadas accedan y compartan fácilmente sus datos. Fortalecer aún más nuestra soberanía promoviendo la construcción de nuevas herramientas y la transferencia de una herramienta a otra en lugar de un sistema compartimentado que no ofrece alternativa a los actores ya establecidos.
El sector educativo, con las cuestiones citadas periódicamente en relación con las responsabilidades de Parcours Sup y la cuestión de la asistencia de orientación, ilustra perfectamente cómo la puesta en común de datos, en un espacio de datos estructurado y accesible, podría abrir la voz en la creación de sistemas mucho más eficientes. herramientas.
Por otro lado, las escapadas de Elon Musk durante su evento “We Robot” no hacen más que reforzar la advertencia sobre los riesgos que asumimos al dejar el control sólo en manos de gigantes de estas tecnologías.
La IA y la gobernanza de datos deben construirse de manera coherente y centrarse decididamente en proteger los derechos de los ciudadanos. Europa tiene la oportunidad, con las regulaciones que ya ha implementado y que constituyen un avance real sobre nuestros vecinos transatlánticos, de mostrar el camino en términos de soberanía digital. Sin embargo, aún es necesario fortalecer considerablemente los esfuerzos concertados para que este comienzo de la gobernanza de datos esté realmente a la altura de los desafíos y, sobre todo, de las oportunidades que trae la IA.