La inteligencia artificial ha estado de moda últimamente. Programas como el chatbot ChatGPT y el generador de arte DALL-E aparecen mucho en las noticias. Pero la IA es más que un truco y tiene el potencial de cambiar la sociedad y nuestras vidas. Por eso se está trabajando en nuevas normativas en Holanda, pero también a nivel europeo.
“La IA es una ola creciente que se nos acerca rápidamente”, dijo la diputada D66 Hind Dekker-Abdulaziz esta semana durante un debate de comité en la Cámara de Representantes. “Tenemos que tomar decisiones sobre las regulaciones este año. Solo entonces podremos navegar junto con las oportunidades que ofrece la IA”, dice. “De lo contrario, la ola se estrellará sobre nosotros”.
Las innovaciones en el campo de la inteligencia artificial o AI avanzan rápidamente. Se invierten cientos de millones en el desarrollo de inteligencia artificial en los Países Bajos. El gobierno estimula el conocimiento y el talento. Pero el gabinete dice que está atento a las posibles desventajas de la tecnología.
La Secretaria de Estado Alexandra van Huffelen (Digitalización) comparte las preocupaciones de los parlamentarios que dijeron que los sistemas de IA pueden funcionar con (inconscientemente agregados) sesgos con los que han sido entrenados. Esto conduce a la discriminación.
En el pasado, esto ha salido completamente mal varias veces. El ejemplo más conocido es el escándalo de los recargos. La Administración Tributaria y Aduanera utilizó algoritmos para combatir el fraude. Pero esto implicó la elaboración de perfiles étnicos, etiquetando erróneamente a decenas de miles de personas como estafadores.
Ontvang een melding bij belangrijke ontwikkelingen rondom kunstmatige intelligentie
Control por supervisor y registro
En los Países Bajos, un nuevo departamento de la autoridad de vigilancia de la privacidad para datos personales (AP) verifica si la IA de las empresas y organizaciones funciona de acuerdo con las reglas. “Queremos asegurarnos de que la desigualdad, los prejuicios y la discriminación no sean parte de los sistemas de IA y los conjuntos de datos con los que se entrenan los sistemas”, dijo Van Huffelen.
Para fundamentar la protección de los derechos humanos, las organizaciones y empresas están obligadas a realizar investigaciones al respecto. Esto debe hacerse antes de implementar un modelo de IA. Según el Secretario de Estado, esta será una “prueba firme” que se suma a las pruebas de privacidad existentes.
Ya existe un registro de algoritmos en los Países Bajos. Las organizaciones gubernamentales publican allí los algoritmos que utilizan en su trabajo. Esto significa que debe ser transparente y verificable para todos cómo se elaboran los programas.
El registro será obligatorio, pero aún no lo es. “La obligación no llegará hasta 2024 como muy pronto”, dice Van Huffelen. “Pero se deben tomar decisiones que estén en línea con lo que se ha acordado a nivel europeo. Por ejemplo, sobre qué información debe incluirse en el registro”.
Legislación europea en camino
El próximo año, la Unión Europea estará trabajando en una regulación para la inteligencia artificial, la Ley AI. Este incluirá acuerdos básicos sobre qué sistemas de IA en la UE deben cumplir antes de que las empresas y organizaciones puedan utilizarlos. El Parlamento Europeo y la Comisión Europea están negociando actualmente los detalles precisos de la ley.
Los sistemas de IA deben cumplir con ciertas obligaciones por ley. Por ejemplo, habrá una inspección estricta para los sistemas con un ‘alto riesgo’ de uso indebido. Esto incluye, por ejemplo, programas de IA que pueden influir en las oportunidades de las personas en el mercado laboral. O programas que se ocupan de la ley o dispositivos médicos.
Los problemas éticos relacionados con la IA se pueden abordar mejor a nivel europeo, dice la diputada del VVD, Queeny Rajkowski. “No tiene sentido hacer eso por separado para cada país”, dice. Si existen normas europeas, se pueden tomar medidas más enérgicas contra el software malicioso. La IA tampoco tiene que adaptarse a las reglas locales de cada país.
Investigación sobre el impacto de la IA en el medio ambiente
Sin embargo, los Países Bajos están lidiando con un problema sobre el impacto ambiental de la IA. “Estamos preocupados por el consumo de energía”, dice el ministro Micky Adriaansens (Asuntos Económicos y Clima). “Entrenar IA requiere mucha potencia de cómputo de los centros de datos. Por lo tanto, tenemos que tomar medidas de ahorro”.
Pero Adriaansens también menciona la otra cara de la moneda. “También usamos IA para resolver problemas climáticos”, dice ella. “La IA puede hacer que las redes de calefacción sean más eficientes y reducir la pérdida de calor. Pero las preocupaciones están justificadas”.
El efecto preciso de la IA en el consumo de energía se investigará en un futuro próximo. El ministro proporcionará más información a finales de este año.
About the Author
