Prisiones controladas por ordenador en las que, aparte de los detenidos, no interviene ningún ser humano. Sistema de justicia automatizado con veredictos escupidos digitalmente. Programas de traducción universales. Algoritmos que toman decisiones médicas en hospitales híbridos. Selección de personal por ordenador. Casi todo parece posible pronto o ya ahora debido al auge que ha tomado la inteligencia artificial (IA).
Con las posibilidades, también lo hacen las preocupaciones y los temores sobre el surgimiento de un estado de vigilancia digital. ¿Y qué tan confiables son los sistemas de IA? Recientemente, expertos estadounidenses advirtieron que los científicos a menudo tratan los programas de IA con descuido y confían con demasiada facilidad en sistemas que no son estancos o que se utilizan de manera deficiente.
Se necesita una mejor formación de los profesionales que trabajan con IA
Ahora se están preparando nuevos acuerdos vinculantes. El Consejo de Europa está trabajando en una convención para garantizar que el uso de la IA no viole los derechos humanos ni socave los cimientos del estado de derecho y la democracia. Un grupo de trabajo que trabaja en un proyecto de tratado se reunirá nuevamente esta semana. El objetivo es un tratado internacional sobre IA y la protección de los derechos humanos.
Jan Kleijssen, el director holandés de derechos humanos, está convencido de que esta es una tarea del Consejo, dice en una entrevista en línea. “El Consejo reconoció desde el principio que si desea proteger los derechos humanos, el estado de derecho y la democracia, las nuevas tecnologías también requieren atención”. Señala el primer tratado para la protección de datos personales de 1981, el Convenio 108, que ha sido ratificado por 55 países, incluidos los Países Bajos.
Convención contra el Cibercrimen
El Consejo también tomó la iniciativa del primer tratado internacional contra el ciberdelito (2001), del que ahora son parte 68 estados. Kleijssen: “Ese es el único tratado de este tipo en el mundo”. Desde la llegada de Internet, el Consejo también ha realizado una serie de recomendaciones sobre, por ejemplo, el papel de los medios de comunicación en línea, la protección de los niños y la atención de la salud.
Un grupo de trabajo emitió un consejo exploratorio sobre la IA hace dos años. Conclusión: la normativa existente presentaba lagunas. Eso condujo a la asignación del comité de ministros de la UE para preparar un tratado sobre IA y derechos humanos.
¿Qué lagunas hay? Kleijssen resume: “No existe una base legal para el uso correcto de la IA por parte de los gobiernos. No hay una descripción general suficiente de los conjuntos de datos utilizados en todo tipo de aplicaciones. Se necesita una mejor formación de los profesionales que trabajan con IA. Se debe informar a los ciudadanos si un sistema de IA ha tomado una decisión que les concierne. Se requiere una apelación contra tal decisión. En el sector privado y con los gobiernos”.
Trampa de aprendizaje automático
Muchos ejemplos de lo que puede salir mal. “En EE. UU. se hizo un experimento con la automatización de la pregunta de si un sospechoso podía ser liberado bajo fianza. ¿Qué resultó? Si el sospechoso era blanco, se le concedía la libertad bajo fianza, un sospechoso de color tenía que permanecer sentado. ¿Cómo sucedió eso? Porque el conjunto de datos que se utilizó se basó en la población carcelaria actual en los EE. UU.”.
Es el conocido escollo de aprendizaje automático: las computadoras aprenden de los datos que ingresas. Amazon también tuvo que lidiar con eso. “Han anunciado que ya no usan un sistema de inteligencia artificial para el reclutamiento. Resultó que las mujeres no pasaron la primera selección, porque el sistema se basó en la composición actual de la gerencia. Entonces concluyó que las mujeres no son aptas para puestos de alto nivel”. Otro: “En Austria, a las madres solteras y a las personas con discapacidades no se les ofreció trabajo porque el sistema decidió que no eran adecuadas sobre la base del mercado laboral existente”.
El Consejo de Estado ha admitido que hay que hacer las cosas de otra manera
La guinda del pastel fue el escándalo de las prestaciones holandesas. “La tragedia ha sido ampliamente notada. Se ha convertido en un estándar de lo que puede salir mal con la IA. Los países han comenzado a preguntarse: ¿esto también nos puede pasar a nosotros?”. Algunos países todavía dudaban, los Países Bajos a la cabeza. “Eso fue lo máximo en los frenos, pero se ha virado por completo”. Los ministerios de Justicia se convencieron rápidamente, pero los ministerios de Asuntos Económicos temían que la regulación se hiciera a expensas de la innovación”. Equivocadamente, piensa Kleijssen. “Mira la industria farmacéutica, la industria más regulada del mundo y una de las más innovadoras”.
El texto del tratado debería estar listo a fines del próximo año, luego de lo cual puede ser presentado a los estados miembros. Se está preparando una lista de verificación con las reglas que debe cumplir el uso de los sistemas de IA. ¿Está el conjunto de datos en orden, el personal está bien capacitado y es capaz? ¿Existe una oportunidad de carrera para los ciudadanos?
Una terapia de choque
El poder judicial también tendrá que adaptarse. „El Consejo de Estado ha tenido terapia de choque con el escándalo de las prestaciones y ha admitido que las cosas se tienen que hacer de otra manera. Una ventaja para los Países Bajos. No estamos ocultando el asunto”.
Algunas aplicaciones de IA quedarán excluidas del tratado, si así lo decide el grupo de trabajo. Kleijssen: “Lo que queremos prohibir es puntuación social como en China, estableciendo un sistema de puntos para los ciudadanos. Tampoco queremos que el gobierno utilice el reconocimiento facial para recopilar datos privados de los ciudadanos, como la preferencia sexual”.
Las reglas también son necesarias para las megaempresas que moderan el contenido en línea. Kleijssen: “Los sistemas de inteligencia artificial realizan una gran parte de la moderación del contenido y eso puede conducir a burbujas de información unilaterales y que se refuerzan a sí mismas. Y así a la polarización. Se trata de que las empresas asuman su responsabilidad para garantizar que su suministro de información siga siendo heterogéneo y no vaya en una sola dirección”.
¿Cómo estás? En octubre, Kleijssen fue recibido en la Casa Blanca para discutir el aporte de Estados Unidos en las negociaciones. “Los estadounidenses también están participando. Ahora tienen un modelo para una Declaración de Derechos de AI nacional, en parte inspirado por nuestro trabajo”. Una potencia euroasiática ya no está involucrada: Rusia, que fue expulsada del Consejo de Europa tras la invasión de Ucrania.
About the Author
