Supongamos que una compañía farmacéutica dice: tenemos un medicamento nuevo y muy poderoso. Lo hemos probado, pero no diremos cómo. Tampoco decimos cómo funciona. Nosotros mismos no entendemos completamente eso. Ahora vamos a inyectar esa cosa a la población mundial, porque solo así veremos claramente las ventajas y desventajas. ¡Juntos lo convertimos en un medicamento del que todos se beneficiarán!
Inconcebible. Sin embargo, esto es lo que aceptamos de los gigantes tecnológicos. Una vez más, mientras desatan la última generación de productos de IA sobre nosotros.
La recepción es diferente de las revoluciones tecnológicas anteriores. No nos desmayamos simplemente ante los suaves heraldos del glorioso futuro. Conocemos las desventajas de todas esas nuevas posibilidades anteriores: violaciones de la privacidad, robo de datos, mentiras, chantaje, adicción, discriminación, vigilancia masiva y opresión.
Incluso ahora estaba esa fase: ¡mira qué inteligente responde ese chatbot! ¡Mira qué real se ve esta imagen! Pero pronto la atención se centró en los riesgos. Lo más notable: ataques cibernéticos más intensos, estafas a gran escala más engañosas y un boom de desinformación altamente persuasiva. Afortunadamente, actualmente se está aprobando una legislación europea que restringe la IA, protege los derechos fundamentales y establece requisitos para la supervisión. Pero la escrupulosidad con la que se hacen las leyes va a la zaga de la descuidada facilidad con la que las empresas tecnológicas nos arrojan prototipos. Aunque hemos perdido la inocencia, la división de roles parece inevitable: las grandes tecnologías nos inundan de productos, luchamos por mantener la cabeza fuera del agua.
OpenAI, que lanzó recientemente los productos más innovadores, los está probando primero. Pero, agrega la compañía, solo se puede aprender mucho en un laboratorio. Para descubrir realmente qué puede hacer la gente con la tecnología y cómo pueden abusar de ella, tiene que salir al mundo. Y OpenAI, de hecho una extensión de Microsoft, promete solemnemente intervenir si es necesario. ‘Juntos nos aseguraremos de que la IA beneficie a toda la humanidad’, Musas CEO Greg Brockman.
Esto tiene sentido desde el punto de vista del desarrollador: cuanto más uso, más información y mejor su producto. Una nueva empresa nueva con una nueva aplicación divertida ciertamente debería hacerlo de esa manera. Pero a esta escala y con estas enormes consecuencias, es irresponsable.
Los programas de computadora a menudo eligen soluciones con resultados indeseables que los inventores no ven venir. Con estos programas de autoaprendizaje, que pueden escribir nuevos programas por sí mismos y pueden establecer conexiones con personas y otras máquinas, el problema es muchas veces mayor. Ya hay un ejemplo en el que la IA engañó a un humano para realizar una tarea.
Con su lenguaje utópico, Brockman también amortigua la dura carrera comercial. Si Microsoft toma la delantera, Google se siente obligado a apresurarse a lanzar sus productos de inteligencia artificial, si es necesario, un poco menos probados. Según Geoffrey Hinton, quien ayudó a ser pionero en la tecnología actual y quien recientemente renunció a su trabajo en Google para ser libre advertir de los peligros de la IAlas empresas dedican el 99 por ciento de sus recursos al desarrollo y el 1 por ciento a la seguridad, donde debería ser cincuenta por ciento.
La sobreestimación de sí mismo de tal Brockman también: ¿por qué alguien que es capaz de liderar una empresa de tecnología innovadora piensa que es adecuado para gestionar las repercusiones sociales? La pregunta que deberíamos hacernos sobre la IA y cualquier tecnología nueva escribe en Roger McNamee Tiempo, ‘es si se debe permitir a las empresas realizar experimentos no controlados en toda la población sin barandillas ni redes de seguridad’. McNamee fue uno de los primeros inversores de Facebook que se convirtió en un feroz crítico. “¿Debería ser legal para las empresas lanzar productos a las masas sin tener que demostrar que esos productos son seguros?”
Pero un proceso de aprobación completo por adelantado, sin duda, los EE.UU. aún está muy lejos.
Mientras tanto, algunos desarrolladores y antiguos defensores de la IA están alimentando los disturbios. Esperan una IA que sea más inteligente que los humanos en un futuro previsible. El investigador estadounidense de inteligencia artificial Eliezer Yudkowsky advierte contra nada menos que el exterminio de la humanidad y recibe mucho apoyo. Pero hay algo raro en esto. La mayoría de los expertos independientes consideran esta ciencia ficción, que simplemente distrae de los peligros reales. Y si escuchas hablar a alguien como Yudkowsky, no parece muy lastrado por el apocalipsis que él mismo esbozó.
El hecho de que la IA potencialmente anuncie nuestro fin de los tiempos, por lo tanto, no es una idea repentinamente impactante. Ha sido la fascinación de este tipo de personas durante años. Shane Legg, el principal científico de Google en este campo, dijo en 2011 que la IA en la parte superior de la lista de amenazas existenciales representaba a la humanidad. Luego siguió jugando. Sam Altman, CEO de OpenAI, casualmente deja caer que AI “puede apagar las luces para todos nosotros” y apela Los New York Times luego con frialdad a Robert Oppenheimer, el ‘padre de la bomba atómica’, quien pensó que esa discusión era algo para después del éxito técnico. ‘La tecnología surge porque es posible’, altman dijo.
Del mismo modo, estos escenarios de terror son principalmente un síntoma del problema central: inventores nihilistas, empleados por empresas hambrientas de ganancias con recursos casi ilimitados, llevan a cabo desarrollos que cambian el mundo apenas controlados.
De Volkskrant sobre IA
La inteligencia artificial, AI, está cambiando el mundo a un ritmo acelerado. Esta semana, de Volkskrant trazó las áreas en las que la IA tiene una gran influencia. Estas historias y más están incluidas en volkskrant.nl/ai
About the Author
