{"id":564304,"date":"2023-01-08T15:05:30","date_gmt":"2023-01-08T15:05:30","guid":{"rendered":"https:\/\/teknomers.com\/es\/los-derechos-humanos-tambien-juegan-un-papel-en-ai-razon-por-la-cual-jan-kleijssen-esta-trabajando-en-un-tratado\/"},"modified":"2023-01-08T15:05:31","modified_gmt":"2023-01-08T15:05:31","slug":"los-derechos-humanos-tambien-juegan-un-papel-en-ai-razon-por-la-cual-jan-kleijssen-esta-trabajando-en-un-tratado","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/los-derechos-humanos-tambien-juegan-un-papel-en-ai-razon-por-la-cual-jan-kleijssen-esta-trabajando-en-un-tratado\/","title":{"rendered":"Los derechos humanos tambi\u00e9n juegan un papel en AI, raz\u00f3n por la cual Jan Kleijssen est\u00e1 trabajando en un tratado"},"content":{"rendered":"\n
\n

Prisiones controladas por ordenador en las que, aparte de los detenidos, no interviene ning\u00fan ser humano. Sistema de justicia automatizado con veredictos escupidos digitalmente. Programas de traducci\u00f3n universales. Algoritmos que toman decisiones m\u00e9dicas en hospitales h\u00edbridos. Selecci\u00f3n de personal por ordenador. Casi todo parece posible pronto o ya ahora debido al auge que ha tomado la inteligencia artificial (IA).<\/p>\n

Con las posibilidades, tambi\u00e9n lo hacen las preocupaciones y los temores sobre el surgimiento de un estado de vigilancia digital. \u00bfY qu\u00e9 tan confiables son los sistemas de IA? Recientemente, expertos estadounidenses advirtieron que los cient\u00edficos a menudo tratan los programas de IA con descuido y conf\u00edan con demasiada facilidad en sistemas que no son estancos o que se utilizan de manera deficiente.<\/p>\n

\n

Se necesita una mejor formaci\u00f3n de los profesionales que trabajan con IA<\/p>\n<\/blockquote>\n

Ahora se est\u00e1n preparando nuevos acuerdos vinculantes. El Consejo de Europa est\u00e1 trabajando en una convenci\u00f3n para garantizar que el uso de la IA no viole los derechos humanos ni socave los cimientos del estado de derecho y la democracia. Un grupo de trabajo que trabaja en un proyecto de tratado se reunir\u00e1 nuevamente esta semana. El objetivo es un tratado internacional sobre IA y la protecci\u00f3n de los derechos humanos.<\/p>\n

Jan Kleijssen, el director holand\u00e9s de derechos humanos, est\u00e1 convencido de que esta es una tarea del Consejo, dice en una entrevista en l\u00ednea. \u201cEl Consejo reconoci\u00f3 desde el principio que si desea proteger los derechos humanos, el estado de derecho y la democracia, las nuevas tecnolog\u00edas tambi\u00e9n requieren atenci\u00f3n\u201d. Se\u00f1ala el primer tratado para la protecci\u00f3n de datos personales de 1981, el Convenio 108, que ha sido ratificado por 55 pa\u00edses, incluidos los Pa\u00edses Bajos. <\/p>\n

Convenci\u00f3n contra el Cibercrimen<\/h2>\n

El Consejo tambi\u00e9n tom\u00f3 la iniciativa del primer tratado internacional contra el ciberdelito (2001), del que ahora son parte 68 estados. Kleijssen: \u201cEse es el \u00fanico tratado de este tipo en el mundo\u201d. Desde la llegada de Internet, el Consejo tambi\u00e9n ha realizado una serie de recomendaciones sobre, por ejemplo, el papel de los medios de comunicaci\u00f3n en l\u00ednea, la protecci\u00f3n de los ni\u00f1os y la atenci\u00f3n de la salud. <\/p>\n

Un grupo de trabajo emiti\u00f3 un consejo exploratorio sobre la IA hace dos a\u00f1os. Conclusi\u00f3n: la normativa existente presentaba lagunas. Eso condujo a la asignaci\u00f3n del comit\u00e9 de ministros de la UE para preparar un tratado sobre IA y derechos humanos.<\/p>\n

\u00bfQu\u00e9 lagunas hay? Kleijssen resume: \u201cNo existe una base legal para el uso correcto de la IA por parte de los gobiernos. No hay una descripci\u00f3n general suficiente de los conjuntos de datos utilizados en todo tipo de aplicaciones. Se necesita una mejor formaci\u00f3n de los profesionales que trabajan con IA. Se debe informar a los ciudadanos si un sistema de IA ha tomado una decisi\u00f3n que les concierne. Se requiere una apelaci\u00f3n contra tal decisi\u00f3n. En el sector privado y con los gobiernos\u201d.<\/p>\n

Trampa de aprendizaje autom\u00e1tico<\/em>
<\/h2>\n

Muchos ejemplos de lo que puede salir mal. \u201cEn EE. UU. se hizo un experimento con la automatizaci\u00f3n de la pregunta de si un sospechoso pod\u00eda ser liberado bajo fianza. \u00bfQu\u00e9 result\u00f3? Si el sospechoso era blanco, se le conced\u00eda la libertad bajo fianza, un sospechoso de color ten\u00eda que permanecer sentado. \u00bfC\u00f3mo sucedi\u00f3 eso? Porque el conjunto de datos que se utiliz\u00f3 se bas\u00f3 en la poblaci\u00f3n carcelaria actual en los EE. UU.\u201d.<\/p>\n

Es el conocido escollo de aprendizaje autom\u00e1tico<\/em>: las computadoras aprenden de los datos que ingresas. Amazon tambi\u00e9n tuvo que lidiar con eso. \u201cHan anunciado que ya no usan un sistema de inteligencia artificial para el reclutamiento. Result\u00f3 que las mujeres no pasaron la primera selecci\u00f3n, porque el sistema se bas\u00f3 en la composici\u00f3n actual de la gerencia. Entonces concluy\u00f3 que las mujeres no son aptas para puestos de alto nivel\u201d. Otro: \u201cEn Austria, a las madres solteras y a las personas con discapacidades no se les ofreci\u00f3 trabajo porque el sistema decidi\u00f3 que no eran adecuadas sobre la base del mercado laboral existente\u201d.<\/p>\n

\n

El Consejo de Estado ha admitido que hay que hacer las cosas de otra manera<\/p>\n<\/blockquote>\n

La guinda del pastel fue el esc\u00e1ndalo de las prestaciones holandesas. \u201cLa tragedia ha sido ampliamente notada. Se ha convertido en un est\u00e1ndar de lo que puede salir mal con la IA. Los pa\u00edses han comenzado a preguntarse: \u00bfesto tambi\u00e9n nos puede pasar a nosotros?\u201d. Algunos pa\u00edses todav\u00eda dudaban, los Pa\u00edses Bajos a la cabeza. \u201cEso fue lo m\u00e1ximo en los frenos, pero se ha virado por completo\u201d. Los ministerios de Justicia se convencieron r\u00e1pidamente, pero los ministerios de Asuntos Econ\u00f3micos tem\u00edan que la regulaci\u00f3n se hiciera a expensas de la innovaci\u00f3n\u201d. Equivocadamente, piensa Kleijssen. \u201cMira la industria farmac\u00e9utica, la industria m\u00e1s regulada del mundo y una de las m\u00e1s innovadoras\u201d.<\/p>\n

El texto del tratado deber\u00eda estar listo a fines del pr\u00f3ximo a\u00f1o, luego de lo cual puede ser presentado a los estados miembros. Se est\u00e1 preparando una lista de verificaci\u00f3n con las reglas que debe cumplir el uso de los sistemas de IA. \u00bfEst\u00e1 el conjunto de datos en orden, el personal est\u00e1 bien capacitado y es capaz? \u00bfExiste una oportunidad de carrera para los ciudadanos?<\/p>\n

Una terapia de choque<\/h2>\n

El poder judicial tambi\u00e9n tendr\u00e1 que adaptarse. \u201eEl Consejo de Estado ha tenido terapia de choque con el esc\u00e1ndalo de las prestaciones y ha admitido que las cosas se tienen que hacer de otra manera. Una ventaja para los Pa\u00edses Bajos. No estamos ocultando el asunto\u201d.<\/p>\n

Algunas aplicaciones de IA quedar\u00e1n excluidas del tratado, si as\u00ed lo decide el grupo de trabajo. Kleijssen: \u201cLo que queremos prohibir es puntuaci\u00f3n social<\/em> como en China, estableciendo un sistema de puntos para los ciudadanos. Tampoco queremos que el gobierno utilice el reconocimiento facial para recopilar datos privados de los ciudadanos, como la preferencia sexual\u201d.<\/p>\n

Las reglas tambi\u00e9n son necesarias para las megaempresas que moderan el contenido en l\u00ednea. Kleijssen: \u201cLos sistemas de inteligencia artificial realizan una gran parte de la moderaci\u00f3n del contenido y eso puede conducir a burbujas de informaci\u00f3n unilaterales y que se refuerzan a s\u00ed mismas. Y as\u00ed a la polarizaci\u00f3n. Se trata de que las empresas asuman su responsabilidad para garantizar que su suministro de informaci\u00f3n siga siendo heterog\u00e9neo y no vaya en una sola direcci\u00f3n\u201d. <\/p>\n

\u00bfC\u00f3mo est\u00e1s? En octubre, Kleijssen fue recibido en la Casa Blanca para discutir el aporte de Estados Unidos en las negociaciones. \u201cLos estadounidenses tambi\u00e9n est\u00e1n participando. Ahora tienen un modelo para una Declaraci\u00f3n de Derechos de AI nacional, en parte inspirado por nuestro trabajo\u201d. Una potencia euroasi\u00e1tica ya no est\u00e1 involucrada: Rusia, que fue expulsada del Consejo de Europa tras la invasi\u00f3n de Ucrania.<\/p>\n