Con el advenimiento de la inteligencia artificial generativa, las autoridades consideran cada vez más importante apoyar la implementación de esta tecnología en la sociedad. La Comisión Nacional de…
Con el advenimiento de la inteligencia artificial generativa, las autoridades consideran cada vez más importante apoyar la implementación de esta tecnología en la sociedad. La Comisión Nacional de Informática y Libertades (CNIL) acaba de presentar, el 16 de mayo de 2023, su plan de acción ” para un despliegue de sistemas de IA que respeten la privacidad de las personas “.
La CNIL propone un plan de acción basado en cuatro objetivos
En 2017, la CNIL publicó un primer informe sobre las cuestiones éticas de la IA. La llegada al frente del escenario de las inteligencias artificiales generativas, lideradas por ChatGPT de OpenAI, parece haber barajado las cartas. La institución vio la necesidad de poner en marcha medidas más concretas, en relación con su uso diario y su evolución.
De este modo, ” teniendo en cuenta que la protección de datos personales es un tema importante para el diseño y uso de estas herramientas », la CNIL desea supervisar el desarrollo de esta tecnología a través de un plan de acción. Como se indica su comunicado de prensaesto debe articularse en cuatro partes muy específicas:
- Comprender cómo funcionan los sistemas de IA y su impacto en las personas. Asegúrese de que el proceso de procesamiento de datos sea transparente y que el público en general pueda comprender fácilmente cómo estas herramientas utilizan los datos para generar su contenido.
- Habilitar y supervisar el desarrollo de IA que respete los datos personales. Debería publicarse una guía en torno a la reutilización de datos y se esperan varias publicaciones a partir de finales del verano de 2023 en forma de conclusiones resultantes de consultas con varios actores del sector en torno a temas relacionados con la creación de IA generativa.
- Federar y apoyar a jugadores innovadores en el ecosistema de IA en Francia y Europa. Tras lanzar su sandbox con el objetivo de apoyar proyectos innovadores en torno a la salud en 2021, luego la educación en 2022, la edición de 2023, que debería lanzarse próximamente, se centrará en el uso de la IA en el sector público.
- Auditar y controlar los sistemas de IA y proteger a las personas. Las acciones de control de la CNIL se centrarán en el cumplimiento de la posición sobre el uso de la videovigilancia aumentada, el uso de la IA para luchar contra el fraude, pero también en todas las denuncias presentadas.
Los reguladores atacan las inteligencias artificiales generativas
ChatGPT, DALL-E 2, Bard, Midjouney, etc. Las IA generativas despiertan el interés del público en general, pero también de empresas y administraciones por aplicaciones profesionales. En aras de la transparencia, la Unión Europea tuvo que añadir medidas relacionadas con esta tecnología en su futura Ley IA. El texto se está examinando actualmente en el Parlamento Europeo y debería votarse en junio.
Estas disposiciones se referían en particular al uso de contenidos no libres de derechos. Las empresas ahora estarán obligadas a especificar si los documentos que han utilizado están sujetos a derechos de autor y, por lo tanto, tendrán que financiar las plataformas o las personas a las que pertenecen.
En otro registro, en Francia, el diputado renacentista Éric Bothorel, se había apoderado de la CNIL para presentar una denuncia contra ChatGPT. Afirmó que la herramienta OpenAI entregó información falsa y acusó a la IA generativa de posibles incumplimientos del Reglamento General de Protección de Datos (GDPR). En efecto, el artículo 5, inciso d del RGPD establece que “ los datos personales son exactos y, cuando sea necesario, se mantienen actualizados tomando todas las medidas razonables para ”, lo que OpenAI no haría. Esta denuncia forma parte, pues, de una de las que, sin duda, serán examinadas por la CNIL en el marco de su plan de acción.
About the Author
