La prohibición propuesta se refiere a los programas de inteligencia artificial que pueden generar textos, fotografías, audio o vídeo. Considere chatbots como ChatGPT y Bard o creadores de imágenes como Dall-E y Midjourney.
El borrador de la propuesta, que está en manos de de Volkskrant, fue creado basándose en una investigación de la oficina del fiscal estatal Pels Rijcken y la Autoridad Holandesa de Protección de Datos (AP). Concluyen: “Las aplicaciones de IA generativa no contratadas generalmente no cumplen de manera demostrable con la legislación holandesa sobre privacidad y derechos de autor”.
Sobre el Autor
Laurens Verhagen prescribe de Volkskrant sobre tecnología, internet e inteligencia artificial. Peter Olsthoorn es periodista independiente y lleva muchos años escribiendo sobre tecnología.
Las aplicaciones de IA para las cuales el gobierno celebra un contrato con un proveedor no deberían estar comprendidas en esta amplia prohibición.
El Secretario de Estado Van Huffelen escribe que “no está claro” si proveedores como Google u OpenAI tienen suficientemente en cuenta los derechos de los autores. Los modelos de lenguaje detrás de programas como ChatGPT y Bard se han entrenado con grandes cantidades de textos, incluidos archivos de periódicos y libros que aún están protegidos por derechos de autor. El mismo principio se aplica a la IA de imágenes.
‘No transparente’
Muchos proveedores no son transparentes sobre qué obras utilizan, escribe Van Huffelen. Tampoco existe una jurisprudencia explícita sobre si está permitido el uso de fuentes públicas de Internet para este fin.
La privacidad es otro punto complicado: “Una aplicación de IA generativa también puede obtener información muy sensible de la interacción con el usuario”. Por último, el Secretario de Estado menciona otro peligro fundamental asociado al uso de la IA: las respuestas de un programa como ChatGPT “pueden utilizarse para tomar una decisión sobre una persona”.
El memorando será discutido próximamente en el Consejo de Ministros. Si están de acuerdo, la prohibición se aplicará no sólo a los servicios gubernamentales, sino también a sus proveedores.
Seguro y responsable
Al mismo tiempo, Van Huffelen también ve oportunidades para un uso útil de la IA generativa dentro del gobierno, pero de forma segura. Esto debe hacerse a través de varios experimentos. Estos pilotos deberían estar listos a mediados del próximo año, tras lo cual habrá ‘directrices’ para el uso responsable de la IA por parte de las organizaciones gubernamentales.
También habrá un programa de formación para funcionarios y una ‘visión’ más amplia sobre la IA. Los expertos llevan tiempo advirtiendo que las organizaciones suelen pensar demasiado a la ligera en el uso de programas como ChatGPT. Por ejemplo, los profesionales ingresan documentos confidenciales para resumirlos o traducirlos, sin que siempre quede claro qué hace exactamente la empresa de tecnología con esa información.
Con servicios como ChatGPT, un problema adicional es que los funcionarios deben iniciar sesión con su dirección de correo electrónico, lo que facilita saber quién hace las preguntas a las máquinas.
“Holanda se queda atrás”
Sander Klous, profesor de ecosistemas de big data en la Universidad de Amsterdam y socio de KPMG, reconoce los riesgos mencionados en el memorando, pero cree que una prohibición iría demasiado lejos: “Hay tantos matices en las aplicaciones de IA que es mejor establecer limitar el uso basándose en riesgos reales y luego prohibirlo todo inmediatamente.’ Una prohibición amplia también podría poner a los Países Bajos en desventaja en comparación con los países que hacen un uso más amplio de la IA generativa, advierte el profesor.
Un portavoz del Ministerio del Interior, que incluye Asuntos Digitales, dice que el ministerio está siguiendo de cerca los desarrollos en torno a la IA generativa, pero no quiere hacer comentarios sustanciales sobre el concepto y no puede decir cuándo se podrá discutir esto en el Consejo de Ministros.