L<\/span>\u00bfLa inteligencia artificial es el hombre? La pregunta no est\u00e1 vac\u00eda.<\/strong> Y la respuesta es s\u00ed, la IA no es tan neutral como cabr\u00eda esperar, y es mucho m\u00e1s probable que sea un hombre que una mujer. no es solo porque los inform\u00e1ticos y programadores que les dan vida son, en cualquier parte del planeta, abrumadoramente hombres.<\/strong><\/p>\n Fotograma de la pel\u00edcula Coded Bias de Joy Buolamwini sobre los riesgos del uso no regulado de la inteligencia artificial que, en su caso, no \u201creconoc\u00eda\u201d el rostro de una mujer negra. En esta foto, el reconocimiento facial permite a un inquilino acceder a su alojamiento. Sin embargo, varios datos sensibles est\u00e1n asociados con los datos antropom\u00e9tricos (como – pen\u00faltima l\u00ednea – el n\u00famero de pagos de alquiler atrasados).<\/p>\n<\/div>\n La inteligencia artificial es masculina porque est\u00e1, en esencia, redise\u00f1ando el planeta a partir del modelo econ\u00f3mico, social, simb\u00f3lico que domina.<\/strong>el que, de hecho, sigue con ordenado automatismo a favor de los machos, en perjuicio de la otra mitad. La Unesco, alarmada por la deriva discriminatoria subyacente <\/strong>a esta revoluci\u00f3n masiva y disruptiva, reuni\u00f3 a los 193 pa\u00edses miembros para entender c\u00f3mo reaccionar<\/strong>: \u00abLos algoritmos y sistemas de inteligencia artificial tienen el poder de difundir y reforzar los estereotipos y prejuicios de g\u00e9nero<\/strong>, que corren el riesgo de marginar a las mujeres a escala mundial. Considerando la creciente presencia de la inteligencia artificial en nuestras sociedades, esto podr\u00eda colocar a las mujeres en una posici\u00f3n de rezago en los \u00e1mbitos econ\u00f3mico, pol\u00edtico y social\u201d, escribi\u00f3 la Organizaci\u00f3n de las Naciones Unidas para la Educaci\u00f3n, la Ciencia y la Cultura en su Informe 2020 Inteligencia Artificial e Igualdad de G\u00e9nero<\/em><\/a>.<\/p>\n\n Evidencia de cu\u00e1n lejos de los algoritmos neutrales cristalizar si las muchas brechas entre hombres y mujeres no aumentan<\/strong> hasta hacerlos irrecuperables son ahora muchos y apremiantes. Entre los casos que han hecho escuela est\u00e1 el de La tarjeta de cr\u00e9dito Apple de Goldman Sachs, acusada en su debut de discriminar a las mujeres porque sus algoritmos establecer\u00edan l\u00edmites de gasto m\u00e1s bajos para las mujeres<\/strong>, como tal. Tweets famosos de empresarios tecnol\u00f3gicos famosos, como David Heinemeier Hansson<\/a>el programador del famos\u00edsimo framework de desarrollo web Rub\u00ed<\/em> – que se preguntaban, asombrados, c\u00f3mo era posible que sus esposas, con las que viv\u00edan en comuni\u00f3n de bienes o compart\u00edan cuentas bancarias, fueran consideradas menos fiables que ellos y por tanto merecieran l\u00edmites de gasto considerablemente m\u00e1s bajos. El algoritmo result\u00f3 no menos sexista que Amazon<\/strong> desarroll\u00f3 para identificar candidatos potenciales navegando por la web y abandon\u00f3 inmediatamente tan pronto como se dio cuenta de que marginaba a las mujeres para trabajos t\u00e9cnicos como, por ejemplo, el desarrollador de software.<\/p>\n “La cuesti\u00f3n es que la inteligencia artificial cae involuntariamente en el prejuicio y la discriminaci\u00f3n exactamente como lo hace la mente humana porque, al final, el algoritmo es un artefacto humano<\/strong>” explica Alessandra Sala<\/strong>Director de Inteligencia Artificial y Ciencia de Datos de la plataforma americana Shutterstock y Presidente Global de Mujeres en IA<\/em><\/a>, organizaci\u00f3n sin \u00e1nimo de lucro que act\u00faa en 120 pa\u00edses a favor de una Inteligencia Artificial justa, \u00e9tica e inclusiva<\/strong>.<\/p>\n Le pedimos a Alessandra Sala que lo explique f\u00e1cilmente el mecanismo a trav\u00e9s del cual el algoritmo inventa una decisi\u00f3n injusta es comprensible<\/strong>. \u00abTomemos un programa de inteligencia artificial desarrollado en el \u00e1rea de TI de una gran empresa para realizar, a la hora de abrir nuevos puestos de trabajo, el desnatado inicial, basto, entre cientos de planes de estudio disponibles. Digamos que el puesto vacante es en el \u00e1rea de tecnolog\u00eda. Para que el algoritmo identifique al candidato o candidata con las mejores habilidades y capacidades, el especialista que lo programa primero debe identificar las caracter\u00edsticas que pueden asociarse con el \u00e9xito. Lo m\u00e1s probable es que el profesional reconozca en primer lugar, en el gran grupo de empleados presentes y pasados \u200b\u200bdel grupo, aquellos que han construido una carrera v\u00e1lida a lo largo del tiempo, luego de cada uno de ellos extrapolar\u00e1 datos como sexo, tipo de alta escuela, facultad y universidad a la que asistieron m\u00e1s que el grado de grado o, quiz\u00e1s, el \u00e1rea geogr\u00e1fica de procedencia y dem\u00e1s\u00bb, explica Sala. \u201cEl programador, en esencia, construir\u00e1 correlaciones entre el \u00e9xito y una serie de datos hist\u00f3ricos que ha elegido privilegiar y se los ense\u00f1ar\u00e1 a la inteligencia artificial.<\/strong>. Este es el punto: si, como sucede con frecuencia, las mujeres exitosas en el sector de la tecnolog\u00eda son y siempre han sido muchas menos que los hombres<\/strong>el algoritmo terminar\u00e1 subestimar la relaci\u00f3n entre la mujer y el \u00e9xito<\/strong> y, con ello, favorecer a los candidatos masculinos\u201d, subraya el directivo.<\/p>\n “Lo mismo ocurre si el programador correlaciona el \u00e9xito con venir de universidades de excelencia, porque tradicionalmente lo mejor ha salido de all\u00ed.<\/strong>: el resultado es que los procesos de selecci\u00f3n seguir\u00e1n excluyendo diferentes or\u00edgenes, con graves perjuicios para muchas personas excelentemente formadas, pero tambi\u00e9n para las propias empresas, que corren el riesgo de perder talento potencial. Si mi curr\u00edculum hubiera sido seleccionado con un proceso de IA, probablemente no existir\u00eda en este lugar ahora.<\/strong>\u00bbDice Alessandra Sala.<\/p>\n Dice que como estudiante universitaria – muy joven, mujer, adem\u00e1s venida del Sur y de una universidad no entre las m\u00e1s conocidas<\/strong> – Tuve una entrevista con un profesor que vino a Italia de la Universidad de California en Santa B\u00e1rbara. \u201cIncluso mis publicaciones eran inferiores a las que se jactaban de otros candidatos, pero la profesora no se detuvo en los datos consignados en el curr\u00edculum vitae: en el transcurso de ese cara a cara, que fue vivo y articulado, evidentemente vislumbr\u00f3 potencial, vislumbr\u00f3 un futuro, luego me llam\u00f3 a los Estados Unidos<\/strong>. Me cambi\u00f3 la vida\u201d, recuerda.<\/p>\n \u201cEl punto real, el que quema, es que las mujeres siempre est\u00e1n subrepresentadas en la monstruosa masa de datos que alimenta la inteligencia artificial<\/strong>: el aprendizaje autom\u00e1tico, es decir, el subconjunto de inteligencia artificial que aprende autom\u00e1ticamente de los datos que recibe, perpet\u00faa sistem\u00e1ticamente esta desigualdad. Adem\u00e1s, adem\u00e1s de estar infrarrepresentadas, con frecuencia se las asocia a conceptos construidos sobre prejuicios\u201d, concluye el presidente de Mujeres en IA<\/em>. Solo por dar un ejemplo, los algoritmos de las aplicaciones de texto a imagen son capaces de crear bellas y perfectas im\u00e1genes de cualquier tema desde cero, bas\u00e1ndose en una simple descripci\u00f3n textual de lo que se quiere representar. El algoritmo, de hecho, ha sido entrenado haci\u00e9ndolo asimilar una enorme cantidad de im\u00e1genes tomadas de la Web.<\/strong> con las leyendas relativas que los describen y ense\u00f1\u00e1ndole a reconocer la conexi\u00f3n entre figura y descripci\u00f3n. Es una pena que, si se le pide que produzca im\u00e1genes asociadas con el t\u00e9rmino abogado o director ejecutivo, es probable que un sistema que no est\u00e9 capacitado para superar los prejuicios de g\u00e9nero procese figuras masculinas<\/strong>pero si la solicitud pretende representar el trabajo de la enfermera o de un asistente personal, las personas representadas ser\u00e1n mayoritariamente mujeres, lo que confirma la visi\u00f3n estereotipada y todav\u00eda extendida de profesiones para hombres y profesiones para mujeres, las primeras cada vez m\u00e1s cualificadas y remuneradas para las \u00faltimo.<\/p>\n En definitiva, si producimos datos condicionados por el sexismo, la discriminaci\u00f3n, las desigualdades existentes, los algoritmos aprenden sobre el sexismo y las desigualdades<\/strong> y, a trav\u00e9s del aprendizaje autom\u00e1tico, los automatizan hasta convertirlos en una regla<\/strong>. \u201cEl riesgo es que estas din\u00e1micas, que tienen un poder de decisi\u00f3n sobre la vida de las personas, se automaticen y pasen a formar parte de la inteligencia artificial y, por lo tanto, se vuelvan perpetuas y, con el tiempo, tan opacas y poderosas que sea dif\u00edcil impugnarlas. Incluso las leyes contra la discriminaci\u00f3n tienen dificultades para identificarlas y golpearlas\u201d, dice. ivana bartoletti<\/strong>Visiting Policy Fellow en la Universidad de Oxford y autor de Una revoluci\u00f3n artificial: sobre el poder, la pol\u00edtica y la IA<\/em><\/a>.<\/p>\n Todo esto sucede en una indiferencia social generalizada: los algoritmos y sus sistemas automatizados de toma de decisiones ahora impregnan todos los aspectos de nuestra vida y existen diferentes formas a trav\u00e9s de las cuales se crean y propagan los prejuicios, pero nosotros, que en la imaginaci\u00f3n tendemos a reducir la inteligencia artificial a lo visible. creaciones como robots y androides, Todav\u00eda no hemos construido una conciencia adecuada de esto.<\/strong>\u00bb Agrega Bartoletti quien tambi\u00e9n es co-fundador de Red de mujeres l\u00edderes en IA<\/em><\/a>una red femenina que sensibiliza la tecnolog\u00eda y la pol\u00edtica para llevar la transparencia al mundo de la Inteligencia Artificial. Bartoletti desea aclarar que las desigualdades que la inteligencia artificial puede replicar ciertamente no se agotan en t\u00e9rminos de g\u00e9nero.<\/strong>.<\/p>\n Se convirti\u00f3 en una pel\u00edcula – Sesgo codificado<\/em><\/a>otorgado en Sundance Festival en 2020 la experiencia de un investigador del color del MIT en Boston<\/strong> – Joy Buolamwini, ghanesa naturalizada estadounidense -, quien partiendo de su experiencia personal ha investigado c\u00f3mo los algoritmos pueden da\u00f1ar a las minor\u00edas<\/strong>. Los sistemas de reconocimiento facial desarrollados por reconocidas empresas inform\u00e1ticas fallaron cuando su rostro qued\u00f3 encuadrado por la c\u00e1mara, impidi\u00e9ndole as\u00ed el acceso. Pero tan pronto como ella lo cubri\u00f3 con una m\u00e1scara blanca, el rostro fue reconocido.<\/p>\n A trav\u00e9s del proyecto Sombras de g\u00e9nero<\/strong> (matices de g\u00e9nero), la investigadora ha demostr\u00f3 c\u00f3mo diferentes programas tienen dificultades para reconocer a las mujeres mucho m\u00e1s que a los hombres<\/strong>, especialmente las mujeres de piel oscura. Hoy Joy Buolamwini, quien fue escuchada ante el Congreso de los Estados Unidos por sus trabajos, es la jefa de la programa Liga de la justicia algor\u00edtmica<\/em><\/a><\/strong>cuyo objetivo es recordar la responsabilidad en la planificaci\u00f3n.<\/p>\n \u00bfC\u00f3mo sale? Los estados est\u00e1n desarrollando legislaci\u00f3n para regular los algoritmos<\/strong>: la UE, por ejemplo, ha propuesto una Reglamento de Inteligencia Artificial<\/em><\/a> en el que la mesa sigue abierta. \u00abEn Estados Unidos, el Instituto Nacional de Est\u00e1ndares y Tecnolog\u00eda ha hecho una serie de recomendaciones para evitar distorsiones<\/strong>. Las reglas son fundamentales\u00bb especifica Bartoletti, convencida de que el entorno tecnol\u00f3gico debe ser protegido, a trav\u00e9s de las normas, exactamente como el entorno natural<\/strong>. Entonces tienen que estar all\u00ed. m\u00e1s mujeres para dise\u00f1ar Inteligencia Artificial<\/strong> y equipos de tecnolog\u00eda nutridos por una gran diversidad de or\u00edgenes, porque mientras solo los hombres blancos dise\u00f1en, solo habr\u00e1 una perspectiva y una direcci\u00f3n \u00fanica.\n<\/p>\nSi el algoritmo est\u00e1 sesgado<\/h2>\n
![\"Atlas,](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2022\/09\/\u00bfLa-inteligencia-artificial-es-humana-La-pregunta-no-esta-vacia.jpg\" "\\"Atlas,")
\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/p><\/div>\n“Vicio” de la humanidad<\/h2>\n
La iniquidad est\u00e1 en el m\u00e9todo<\/h2>\n
Entrenar el estereotipo<\/h2>\n
Del prejuicio a la regla compartida<\/h2>\n
La amenaza fantasma<\/h2>\n
Sentirse invisible<\/h2>\n
Inteligencia artificial, un entorno a proteger<\/h2>\n