Si las organizaciones utilizan inteligencia artificial y algoritmos para sus operaciones comerciales, deben explicar por qué lo hacen. La Autoridad Holandesa de Protección de Datos aboga por esto.
Se trata de empresas y gobiernos que “procesan con seriedad los datos personales” y que utilizan sistemas o algoritmos de IA que pueden tener un gran impacto en la vida de los ciudadanos.
La Autoridad de Protección de Datos (AP) holandesa dice que la llegada de los chatbots de IA y la falta de conocimiento de los algoritmos existentes plantean los mayores riesgos. Piense en los riesgos de discriminación, desigualdad de oportunidades, engaño y falta de transparencia y explicación sobre los algoritmos.
Casi todas las organizaciones en los Países Bajos ahora trabajan con algoritmos. “Muchos clientes significa una gran cantidad de datos de clientes en sus archivos”, dice el presidente de AP, Aleid Wolfsen. el escándalo de los beneficios es el ejemplo más conocido de un algoritmo que perjudicó a los ciudadanos. Pero recientemente, DUO y UWV también se equivocaron con los algoritmos.
Wolfsen cree que la IA y los algoritmos pueden ser útiles, pero no debemos ignorar los riesgos. “La concienciación sobre esto está aumentando, pero muchos gobiernos y empresas siguen buscando la manera correcta de hacerlo”, dice. “Es por eso que las regulaciones claras ahora son cruciales. Hacemos un llamado al gabinete saliente para que continúe avanzando en este sentido”.
AP pide registro obligatorio
En los Países Bajos existe un registro de algoritmos en el que las organizaciones gubernamentales pueden ingresar algoritmos usados con un alto riesgo de abuso. Esto aún no es obligatorio, pero la AP espera que esté allí dentro de un año. El NOS informó anteriormente que el registro casi nunca se completa.
Desde principios de este año, la AP no solo ha monitoreado las violaciones a la privacidad, sino también los algoritmos. Esta es la primera vez que AP emite un informe al respecto. El regulador tiene la intención de hacer esto cada seis meses.
About the Author
