La Comisión Nacional de Tecnologías de la Información y las Libertades (CNIL) consulta y sigue consultando sobre inteligencia artificial (IA). Estos intercambios con el ecosistema, expertos y otros deberían permitir la elaboración de fichas prácticas destinadas a este mismo público para el desarrollo y uso legalmente tranquilo de esta tecnología. El 10 de junio se lanzó una nueva convocatoria de contribuciones.
La CNIL en modo preventivo
Como parte del esfuerzo realizado en octubre de 2023, esta es la segunda vez que la CNIL pide al sector de la IA “ adaptar sus recomendaciones futuras a los riesgos reales para las personas afectadas y a la capacidad del sector para reducirlos «. En abril, las primeras siete hojas dieron los conceptos básicos para dominar.
Esta nueva solicitud contempla dos ejes. El primero es un cuestionario sobre la aplicación del Reglamento General de Protección de Datos (GDPR), cuyo cumplimiento es responsabilidad de la CNIL en Francia y los principales modelos de IA.
Para el segundo, la comisión requiere la opinión de los interesados sobre una serie de nuevas fichas prácticas, siete más. En gran medida giran en torno al tema del interés legítimo. Se trata de una disposición del RGPD que permite, en condiciones claras, prescindir del consentimiento del usuario para la recopilación de determinados datos personales.
Este interés legítimo es ampliamente utilizado por empresas que desean desarrollar su propio modelo lingüístico. La CNIL, por ejemplo, se centró en la recolección o “web scraping” en inglés. La cantidad de datos que hay que mezclar para poder entrenar el algoritmo hace extremadamente complejo asegurar el consentimiento de todos. Sin embargo, esto debe estar dentro de los límites legales.
Los otros temas giran en torno a la gestión de un modelo de código abierto y el respeto de los derechos personales. Hasta qué punto se les debe informar, cómo garantizar que se respeten sus derechos, etc.
El objetivo de la CNIL desde el lanzamiento de este enfoque es proporcionar “ seguridad jurídica para las partes interesadas » con respecto al RGPD. Desde el lanzamiento de ChatGPT a finales de 2022, han surgido muchas preguntas sobre el uso de datos para el entrenamiento de modelos. En algunos casos esto se ha convertido en procedimientos legales.
Quizás sea necesaria una aclaración, especialmente en una Unión Europea que se enorgullece de sus regulaciones. Entre el RGPD y la implementación gradual de la Ley de IA, no viene mal. La CNIL también desea tranquilizar declarando que es “ conscientes de que la adopción de esta tecnología es, para Francia, un factor importante de competitividad, innovación y soberanía «.
Estas nuevas consultas públicas deberán extenderse hasta el 1 de septiembre de 2024. Durante la primera versión, 43 actores respondieron a la convocatoria. Las respuestas se tendrán en cuenta para dar lugar a la publicación de recomendaciones finales más adelante este año. Otros deberían venir.