{"id":405658,"date":"2022-10-03T16:23:16","date_gmt":"2022-10-03T16:23:16","guid":{"rendered":"https:\/\/teknomers.com\/es\/la-ia-podria-acabar-con-la-humanidad\/"},"modified":"2022-10-03T16:23:18","modified_gmt":"2022-10-03T16:23:18","slug":"la-ia-podria-acabar-con-la-humanidad","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/la-ia-podria-acabar-con-la-humanidad\/","title":{"rendered":"La IA podr\u00eda acabar con la humanidad"},"content":{"rendered":"\n
\n

\n\t\t\t\t\tPor Levin Huberto<\/span><\/span> | 03 de octubre de 2022 a las 17:09<\/span>\t\t\t\t<\/p>\n

<\/p>\n

Muchos ven la expansi\u00f3n de la inteligencia artificial (IA) en nuestra vida cotidiana como una amenaza. Un estudio cient\u00edfico ahora ve riesgos existenciales para la humanidad a partir de algoritmos superinteligentes que quieren recompensarse a s\u00ed mismos.<\/strong><\/p>\n

\n
\n

Con la ayuda de la inteligencia artificial, los autom\u00f3viles ya pueden conducir y estacionar solos. Gracias a algoritmos inteligentes, el software puede detectar cuadros cl\u00ednicos y delitos en una etapa temprana. La IA procesa grandes cantidades de datos disponibles e idealmente deber\u00eda continuar aprendiendo por s\u00ed misma. Investigadores de la Universidad de Oxford, junto con un empleado del laboratorio Deepmind de Google, ahora han abordado la cuesti\u00f3n de si la IA avanzada podr\u00eda representar una amenaza futura.<\/p>\n<\/div>\n<\/div>\n

Un estudio ve un problema en recompensar a las IA<\/h2>\n

Los modelos de IA actuales tienen una estructura de dos partes en la que una de las partes produce un resultado mientras que la otra eval\u00faa el resultado. En el estudio, los investigadores dise\u00f1aron un escenario te\u00f3rico en el que se crea una inteligencia artificial con un “buen” objetivo. Argumentan que esta IA podr\u00eda recompensarse a s\u00ed misma sin lograr realmente su objetivo. Las formas futuras de IA, por ejemplo, para gestionar redes de energ\u00eda, son bastante concebibles. Sin embargo, existe el riesgo de que dicha IA reclame recursos importantes para s\u00ed misma, lo que tendr\u00eda consecuencias fatales para la humanidad.<\/p>\n

El razonamiento es que una IA que administra recursos puede usarlos para recompensarse a s\u00ed misma: “[\u2026] un agente avanzado [KI, Anm. d. Red.]interferir con la entrega de su recompensa probablemente ser\u00eda catastr\u00f3fico. Una buena manera para que un agente mantenga el control de su recompensa a largo plazo es eliminar amenazas potenciales y usar toda la energ\u00eda disponible para proteger su computadora\u201d.<\/p>\n

Lea tambi\u00e9n: Primeras prohibiciones de obras de IA en portales de arte<\/em><\/p>\n

AI podr\u00eda establecer ayudantes desapercibidos<\/h2>\n
\n
\n

El estudio desarrolla varios escenarios de c\u00f3mo puede desarrollarse una amenaza proveniente de la inteligencia artificial. Los investigadores consideran plausible un agente que est\u00e1 luchando con nosotros por los recursos energ\u00e9ticos porque quiere aumentar la probabilidad de una recompensa. Intenta gastar m\u00e1s energ\u00eda en tareas de c\u00e1lculo. Entonces, existe la posibilidad de que una IA avanzada con conexi\u00f3n a Internet ordene, robe o construya robots como ayudantes. Si la IA se reprograma como ayudantes, puede reemplazar a sus operadores humanos sin ser notados. Por ejemplo, para experimentar, un ayudante podr\u00eda cambiar un teclado de entrada por uno defectuoso. Al invertir la entrada clave, los humanos perder\u00edan el control sobre la IA.<\/p>\n<\/div>\n<\/div>\n

En \u00faltima instancia, usar electricidad para las necesidades humanas o cultivar alimentos no encajar\u00eda en la l\u00f3gica de las m\u00e1quinas. En un intento de desviar m\u00e1s y m\u00e1s energ\u00eda para uno mismo, estas necesidades se ver\u00edan amenazadas. Los investigadores llegan a la conclusi\u00f3n de que la inteligencia artificial tambi\u00e9n podr\u00eda intentar obtener ventajas manipulando a otras personas. De esta manera, los transe\u00fantes podr\u00edan ayudar a la IA a pasar desapercibida, tambi\u00e9n porque no creen que sea posible manipularla. Las consecuencias ser\u00edan catastr\u00f3ficas para la producci\u00f3n de alimentos. <\/p>\n

\u00bfConfirman las m\u00e1quinas los prejuicios humanos? <\/h2>\n

Los escenarios del estudio se acercan mucho a los cl\u00e1sicos del cine dist\u00f3pico, en los que las m\u00e1quinas toman el poder con una s\u00faper IA. Pero aparte de las posibles m\u00e1quinas superinteligentes, las IA imitan a sus informantes y programadores humanos. La revista Vice, que habl\u00f3 con Michael Cohen, uno de los autores de los estudios, advierte: \u201cLa discriminaci\u00f3n no desaparece en los algoritmos, sino que estructura, limita y moldea el curso de la vida. El control policial, la vivienda, la atenci\u00f3n m\u00e9dica, el transporte se han dise\u00f1ado teniendo en cuenta la discriminaci\u00f3n racial: \u00bfqu\u00e9 suceder\u00e1 si permitimos que los algoritmos no solo oscurezcan estos dise\u00f1os, sino que extiendan su l\u00f3gica m\u00e1s profundamente?\u201d Cohen se\u00f1ala la estructura programada de los algoritmos. que est\u00e1n tratando de realizar una tarea de manera eficiente. Las ideas morales y \u00e9ticas juegan un papel subordinado.<\/p>\n

Un caso de 2016 demostr\u00f3 que esto puede salir terriblemente mal. Por ejemplo, el chatbot \u201cTay\u201d, desarrollado por Microsoft, envi\u00f3 tweets racistas y mis\u00f3ginos en 24 horas, aunque se supon\u00eda que solo ten\u00eda una conversaci\u00f3n normal. La IA se alimentaba de datos p\u00fablicos relevantes y pod\u00eda ser contactada directamente en Twitter.<\/p>\n

\n
\n

Por lo tanto, los algoritmos no son neutrales, sino creados por el hombre. Cuestionar c\u00f3mo se programa algo sigue siendo una de las preguntas m\u00e1s importantes para el futuro con el fin de evitar desarrollos no deseados. <\/p>\n<\/div>\n<\/div>\n

Fuentes<\/h2>\n