{"id":249297,"date":"2022-07-07T02:43:51","date_gmt":"2022-07-07T02:43:51","guid":{"rendered":"https:\/\/teknomers.com\/es\/las-maquinas-se-comportan-mal-por-que-la-ia-nunca-puede-ser-moral\/"},"modified":"2022-07-07T02:43:53","modified_gmt":"2022-07-07T02:43:53","slug":"las-maquinas-se-comportan-mal-por-que-la-ia-nunca-puede-ser-moral","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/las-maquinas-se-comportan-mal-por-que-la-ia-nunca-puede-ser-moral\/","title":{"rendered":"Las m\u00e1quinas se comportan mal: por qu\u00e9 la IA nunca puede ser moral"},"content":{"rendered":"


\n<\/p>\n

\n
\n
Daniele Pucci del Instituto Italiano de Tecnolog\u00eda toma una instant\u00e1nea del robot icub 3, que est\u00e1 dise\u00f1ado para probar algoritmos de IA incorporados \u00a9 Marco Bertorello\/AFP\/Getty Images<\/figcaption><\/figure>\n<\/div>\n

En una lista de las figuras m\u00e1s impactantes del siglo XX saltan varios nombres: Albert Einstein, Mahatma Gandhi y Franklin D Roosevelt en el lado positivo del libro mayor y ese tr\u00edo de tiranos, Hitler, Stalin y Mao, que hizo un da\u00f1o inexplicable. .<\/p>\n

Pero en M\u00e1quinas que se comportan mal,<\/em> Toby Walsh presenta un caso convincente de que 1000 a\u00f1os en el futuro (suponiendo que la humanidad sobreviva tanto tiempo) la respuesta ser\u00e1 perfectamente clara: Alan Turing. Como pionero de la computaci\u00f3n y fundador de la inteligencia artificial, Turing ser\u00e1 visto como la fuerza intelectual impulsora detr\u00e1s de la “tecnolog\u00eda omnipresente y cr\u00edtica” que luego impregnar\u00e1 de manera invisible todos los aspectos de nuestras vidas. El matem\u00e1tico IJ Good, otro descifrador de c\u00f3digos en Bletchley Park durante la Segunda Guerra Mundial, predijo que la invenci\u00f3n de una “m\u00e1quina ultrainteligente”, tal como la imagin\u00f3 Turing, conducir\u00eda a una “explosi\u00f3n de inteligencia”.<\/p>\n

\u201cPor lo tanto, la primera m\u00e1quina ultrainteligente es el \u00faltimo invento que el hombre necesita hacer, siempre que la m\u00e1quina sea lo suficientemente d\u00f3cil para decirnos c\u00f3mo mantenerla bajo control\u201d, escribi\u00f3 Good en 1965. Good pas\u00f3 a asesorar a Stanley Kubrick en la fabricaci\u00f3n de la pel\u00edcula 2001: una odisea del espacio<\/em>que present\u00f3 a los espectadores las maravillas y los peligros de una m\u00e1quina ultrainteligente de este tipo, llamada HAL 9000.<\/p>\n

Aunque es fascinante especular c\u00f3mo la inteligencia artificial habr\u00e1 cambiado el mundo para el a\u00f1o 3022, Walsh centra la mayor parte de su atenci\u00f3n en el aqu\u00ed y ahora. Es posible que las computadoras que tenemos hoy en d\u00eda a\u00fan no coincidan con la inteligencia de un ni\u00f1o de dos a\u00f1os, argumenta, pero la IA ya se est\u00e1 utilizando para una variedad impresionante y en constante expansi\u00f3n de prop\u00f3sitos: detectar malware, verificar contratos legales en busca de errores, identificar el canto de los p\u00e1jaros, el descubrimiento de nuevos materiales y (controvertidamente) la predicci\u00f3n del crimen y la programaci\u00f3n de patrullas policiales. El objetivo de Walsh es hacernos pensar en las consecuencias no deseadas del uso de una tecnolog\u00eda tan poderosa en todas estas y otras formas.<\/p>\n

\n\t\t\t\t\"\"<\/p>\n<\/figure>\n

Como profesor de IA en la Universidad de Nueva Gales del Sur, Walsh est\u00e1 entusiasmado con el poder y la promesa de la tecnolog\u00eda. Las computadoras pueden ayudar a automatizar los trabajos sucios, dif\u00edciles, aburridos y peligrosos que no son adecuados para los humanos. La polic\u00eda india ha utilizado tecnolog\u00eda de reconocimiento facial para identificar a 10.000 ni\u00f1os desaparecidos. La IA tambi\u00e9n se est\u00e1 utilizando para combatir la emergencia clim\u00e1tica mediante la optimizaci\u00f3n de la oferta y la demanda de electricidad, la predicci\u00f3n de patrones clim\u00e1ticos y la maximizaci\u00f3n de la capacidad de la energ\u00eda e\u00f3lica y solar. Pero Walsh insiste en que debemos pensar con mucho cuidado acerca de permitir que dicha tecnolog\u00eda se entrometa en todos los rincones de nuestras vidas. Las empresas de Big Tech que est\u00e1n implementando IA est\u00e1n motivadas por las ganancias en lugar del bien social. <\/p>\n

La secci\u00f3n m\u00e1s interesante y original del libro se refiere a si las m\u00e1quinas pueden operar de manera moral. Uno de los experimentos m\u00e1s grandes y fascinantes en esta \u00e1rea es el Maquina Moral<\/a> proyecto dirigido por el Media Lab del Instituto Tecnol\u00f3gico de Massachusetts. Esta plataforma digital se ha utilizado para recopilar las decisiones morales de 40 millones de usuarios, interrog\u00e1ndolos sobre los procesos de toma de decisiones de los autom\u00f3viles aut\u00f3nomos, por ejemplo. <\/p>\n

\u00bfC\u00f3mo reaccionan los usuarios ante el dilema moral conocido como el \u201cproblema del troleb\u00fas\u201d, ideado por la fil\u00f3sofa inglesa Philippa Foot en 1967? \u00bfCambiar\u00edas el curso de un troleb\u00fas fuera de control para evitar que mate a cinco personas en una v\u00eda a costa de matar? otra persona en un est\u00edmulo alternativo? En las encuestas, alrededor del 90 por ciento de las personas dicen que salvar\u00edan las cinco vidas a costa de una.<\/p>\n

\n
\n

Hoy no podemos construir m\u00e1quinas morales. . . Y hay muchas razones por las que sospecho que nunca podremos hacerlo.<\/p>\n<\/p><\/div>\n<\/blockquote>\n

Pero, como muchos cient\u00edficos inform\u00e1ticos, Walsh es esc\u00e9ptico sobre la aplicabilidad de elecciones morales tan claras y sobre si alguna vez podr\u00edan escribirse en el sistema operativo de una m\u00e1quina. Primero, a menudo decimos una cosa y hacemos otra. En segundo lugar, algunas de las cosas que hacemos sabemos que no deber\u00edamos (pedir helado cuando estamos a dieta). En tercer lugar, el crowdsourcing moral depende de las elecciones de un grupo autoseleccionado de usuarios de Internet, que no reflejan la diversidad de las diferentes sociedades y culturas. Finalmente, las decisiones morales que toman las m\u00e1quinas no pueden ser el promedio borroso de lo que la gente tiende a hacer. La moralidad cambia: las sociedades democr\u00e1ticas ya no niegan a las mujeres el voto ni esclavizan a las personas, como antes lo hac\u00edan.<\/p>\n

\u201cHoy no podemos construir m\u00e1quinas morales, m\u00e1quinas que capturen nuestros valores humanos y que puedan rendir cuentas por sus decisiones. Y hay muchas razones por las que sospecho que nunca podremos hacerlo\u201d, escribe Walsh.<\/p>\n

Pero eso no significa que se deba dejar que las empresas que implementan IA se vuelvan locas. Los legisladores tienen la responsabilidad de delinear d\u00f3nde es aceptable que los algoritmos sustituyan la toma de decisiones humana y d\u00f3nde no. Walsh es un activista activo contra el uso de robots asesinos o sistemas de armas aut\u00f3nomos letales. Hasta la fecha, 30 pa\u00edses han pedido a la ONU que proh\u00edba este tipo de armas, aunque ninguna de las principales potencias militares del mundo se encuentra todav\u00eda entre ellos. <\/p>\n