Muchos ven la expansión de la inteligencia artificial (IA) en nuestra vida cotidiana como una amenaza. Un estudio científico ahora ve riesgos existenciales para la humanidad a partir de algoritmos superinteligentes que quieren recompensarse a sí mismos.
Con la ayuda de la inteligencia artificial, los automóviles ya pueden conducir y estacionar solos. Gracias a algoritmos inteligentes, el software puede detectar cuadros clínicos y delitos en una etapa temprana. La IA procesa grandes cantidades de datos disponibles e idealmente debería continuar aprendiendo por sí misma. Investigadores de la Universidad de Oxford, junto con un empleado del laboratorio Deepmind de Google, ahora han abordado la cuestión de si la IA avanzada podría representar una amenaza futura.
Un estudio ve un problema en recompensar a las IA
Los modelos de IA actuales tienen una estructura de dos partes en la que una de las partes produce un resultado mientras que la otra evalúa el resultado. En el estudio, los investigadores diseñaron un escenario teórico en el que se crea una inteligencia artificial con un “buen” objetivo. Argumentan que esta IA podría recompensarse a sí misma sin lograr realmente su objetivo. Las formas futuras de IA, por ejemplo, para gestionar redes de energía, son bastante concebibles. Sin embargo, existe el riesgo de que dicha IA reclame recursos importantes para sí misma, lo que tendría consecuencias fatales para la humanidad.
El razonamiento es que una IA que administra recursos puede usarlos para recompensarse a sí misma: “[…] un agente avanzado [KI, Anm. d. Red.]interferir con la entrega de su recompensa probablemente sería catastrófico. Una buena manera para que un agente mantenga el control de su recompensa a largo plazo es eliminar amenazas potenciales y usar toda la energía disponible para proteger su computadora”.
Lea también: Primeras prohibiciones de obras de IA en portales de arte
AI podría establecer ayudantes desapercibidos
El estudio desarrolla varios escenarios de cómo puede desarrollarse una amenaza proveniente de la inteligencia artificial. Los investigadores consideran plausible un agente que está luchando con nosotros por los recursos energéticos porque quiere aumentar la probabilidad de una recompensa. Intenta gastar más energía en tareas de cálculo. Entonces, existe la posibilidad de que una IA avanzada con conexión a Internet ordene, robe o construya robots como ayudantes. Si la IA se reprograma como ayudantes, puede reemplazar a sus operadores humanos sin ser notados. Por ejemplo, para experimentar, un ayudante podría cambiar un teclado de entrada por uno defectuoso. Al invertir la entrada clave, los humanos perderían el control sobre la IA.
En última instancia, usar electricidad para las necesidades humanas o cultivar alimentos no encajaría en la lógica de las máquinas. En un intento de desviar más y más energía para uno mismo, estas necesidades se verían amenazadas. Los investigadores llegan a la conclusión de que la inteligencia artificial también podría intentar obtener ventajas manipulando a otras personas. De esta manera, los transeúntes podrían ayudar a la IA a pasar desapercibida, también porque no creen que sea posible manipularla. Las consecuencias serían catastróficas para la producción de alimentos.
¿Confirman las máquinas los prejuicios humanos?
Los escenarios del estudio se acercan mucho a los clásicos del cine distópico, en los que las máquinas toman el poder con una súper IA. Pero aparte de las posibles máquinas superinteligentes, las IA imitan a sus informantes y programadores humanos. La revista Vice, que habló con Michael Cohen, uno de los autores de los estudios, advierte: “La discriminación no desaparece en los algoritmos, sino que estructura, limita y moldea el curso de la vida. El control policial, la vivienda, la atención médica, el transporte se han diseñado teniendo en cuenta la discriminación racial: ¿qué sucederá si permitimos que los algoritmos no solo oscurezcan estos diseños, sino que extiendan su lógica más profundamente?” Cohen señala la estructura programada de los algoritmos. que están tratando de realizar una tarea de manera eficiente. Las ideas morales y éticas juegan un papel subordinado.
Un caso de 2016 demostró que esto puede salir terriblemente mal. Por ejemplo, el chatbot “Tay”, desarrollado por Microsoft, envió tweets racistas y misóginos en 24 horas, aunque se suponía que solo tenía una conversación normal. La IA se alimentaba de datos públicos relevantes y podía ser contactada directamente en Twitter.
Por lo tanto, los algoritmos no son neutrales, sino creados por el hombre. Cuestionar cómo se programa algo sigue siendo una de las preguntas más importantes para el futuro con el fin de evitar desarrollos no deseados.
Fuentes
- Revista IAconsultado el 26/09/22.
- Vicioconsultado el 26/09/22.
- golemconsultado el 26/09/22.
- t3nconsultado el 26/09/22.
About the Author
