De acuerdo a un aviso (pdf) publicado el 22 de junio por el Defensor de los Derechos, no discriminación debe estar en el centro de la regulación de la inteligencia artificial. Recomendaciones co-redactadas con Equinet (Red Europea de Organismos para la Igualdad) y la Red Europea de Organismos para la Igualdad.
El Defensor de los Derechos publica sus recomendaciones
El Defensor de los Derechos ha publicado una serie de recomendaciones dirigidas directamente a las instituciones europeas. Con este dictamen, la autoridad administrativa independiente encargada de velar por que los organismos públicos respeten los derechos de los ciudadanos quiere recordar la importancia de situar el principio de no discriminación en el centro del futuro reglamento europeo sobre inteligencia artificial : la Ley de Inteligencia Artificial. El Defensor de los Derechos nos recuerda que no debemos olvidar que “los algoritmos son desarrollados por humanos y, por lo tanto, a partir de datos que reflejan prácticas humanas”.
Microsoft restringirá su software de reconocimiento facial por cuestiones éticas
La autoridad cree que uno de los sesgos más comunes “la falta de representatividad de los datos utilizados”. El Defensor de los Derechos también da la voz de alarma sobre los procesos de contratación impulsados por inteligencia artificial. Según ella, algunos algoritmos han heredado “la traducción matemática de prácticas discriminatorias históricas”. En términos concretos, las tecnologías de contratación pueden tender rechazar sistemáticamente las solicitudes de mujeres. También se han observado derivas similares en otros sectores.
Evitar abusos estableciendo el principio de no discriminación
Este es por ejemplo el caso “en el marco de la lucha contra el fraude en las prestaciones sociales”. El Defensor de los Derechos recuerda que los algoritmos utilizados con este fin ya han dado lugar a abusos. Algunas inteligencias artificiales concentraron los controles sobre determinadas personas en razón de su lugar de residencia y de su situación familiar. Es por esto, según la autoridad, que el principio de no discriminación es fundamental para construir una regulación justa sobre inteligencia artificial dentro de la Unión Europea. El Defensor de los Derechos ofrece varias recomendaciones.
En su opinión, la autoridad recomienda en particular la introducción de “Mecanismos de denuncia y reparación accesibles y eficaces” para los interesados en caso de vulneración de los principios de igualdad y no discriminación cuando dicha vulneración resulte del uso de un algoritmo. El Defensor de Derechos también desea “exigir a las autoridades nacionales de control que consulten a los organismos de igualdad”. Para garantizar que la no discriminación estará en el centro del proyecto, la autoridad cree que academia y organizaciones no gubernamentales debe participar en las decisiones.
About the Author
