\n<\/p>\n
Eran s\u00f3lo 22 palabras, pero palabras muy grandes. Nada menos que la supervivencia de la humanidad estar\u00eda en juego.<\/p>\n
Tres de los principales desarrolladores de inteligencia artificial (IA) emitieron una advertencia el martes una declaraci\u00f3n<\/a> por el peligro de su propio producto. En un poco m\u00e1s de palabras en holand\u00e9s: “Reducir el riesgo de extinci\u00f3n de la IA deber\u00eda ser una prioridad global, junto con otros riesgos que afectan a la sociedad en su conjunto, como las pandemias y las guerras nucleares”.<\/p>\n M\u00e1s de 350 personas, muchas de las cuales trabajan ellas mismas en IA, ya han firmado la declaraci\u00f3n. Una carta abierta preocupada del mismo trimestre ya apareci\u00f3 en marzo, pidiendo una pausa de al menos seis meses en el desarrollo de IA. Las empresas que desarrollan IA estar\u00edan \u201cenredadas en un salirse de control<\/a> para desarrollar y desplegar cerebros digitales cada vez m\u00e1s poderosos que nadie puede entender, predecir o controlar de manera confiable\u201d.<\/p>\n Una diferencia importante con esa carta abierta es que la declaraci\u00f3n del martes fue firmada nada menos que por los altos ejecutivos de tres empresas que est\u00e1n a la vanguardia del desarrollo de IA. Adem\u00e1s de Sam Altman de OpenAI, la compa\u00f1\u00eda detr\u00e1s del bot de lenguaje ChatGPT, est\u00e1n Demis Hassabis de Google DeepMind y Dario Amodei de Anthropic, la \u00fanica compa\u00f1\u00eda de inteligencia artificial de dos a\u00f1os. <\/p>\n Parece una extra\u00f1a contradicci\u00f3n. Como si los jefes de la IA dijeran: “\u00a1Cuidado con nosotros, estamos jugando con fuego!” Dos de los llamados “padrinos de la IA”, Geoffrey Hinton y Yoshua Bengio, tambi\u00e9n pusieron sus nombres debajo de la declaraci\u00f3n.<\/p>\n Lo m\u00e1s destacable de la \u00faltima advertencia de posible desastre es que, aunque suena como una alarma muy grande, consta de una sola oraci\u00f3n. No dice exactamente cu\u00e1les son esos grandes peligros, ni c\u00f3mo podemos evitarlos. <\/p>\n La carta abierta en marzo s\u00ed lo hizo. Advirti\u00f3 que la IA podr\u00eda hacer que los medios se inundaran con propaganda y desinformaci\u00f3n. Que los “cerebros no humanos” eventualmente podr\u00edan hacernos superfluos a los humanos. Que todos los trabajos, \u201cincluso los que satisfacen\u201d, podr\u00edan automatizarse y que \u201cperder\u00edamos el control de nuestra civilizaci\u00f3n\u201d. Se abog\u00f3 por seguir investigando los peligros, as\u00ed como por la regulaci\u00f3n, para llegar a una inteligencia artificial que sea segura, fiable, transparente e incluso, como si fuera un ser humano, “leal”.<\/p>\n En los \u00faltimos meses, los cr\u00edticos de la IA tambi\u00e9n han otros escenarios sombr\u00edos<\/a> esbozado. La IA conducir\u00eda a un tsunami de hackeos de casi todas las formas de seguridad digital que conocemos hoy. Los sistemas de armas aut\u00f3nomos podr\u00edan conducir a una revoluci\u00f3n en la guerra con IA. Fabricar armas qu\u00edmicas y biol\u00f3gicas estar\u00eda repentinamente al alcance de todos. Y en el fondo siempre est\u00e1 el vago espectro de los sistemas inform\u00e1ticos con caracter\u00edsticas humanas que eclipsan al ser humano real.<\/p>\n Los cr\u00edticos plantean la cuesti\u00f3n de cu\u00e1n genuinas son las preocupaciones de los l\u00edderes de las empresas de IA, si al mismo tiempo contin\u00faan trabajando a toda velocidad y a un ritmo acelerado en el desarrollo ulterior de la inteligencia artificial y sus aplicaciones, como el chatbot ChatGPT. Despu\u00e9s de todo, estos se ponen a disposici\u00f3n del p\u00fablico en masa sin restricciones y sin revisi\u00f3n externa. <\/p>\n Una de esas cr\u00edticas es Emily Bender, ling\u00fcista y experta en los llamados modelos de lenguaje grande (LLM), los enormes conjuntos de datos utilizados para el desarrollo de IA. ella y ella partidarios<\/a> han estado se\u00f1alando los peligros de la IA durante a\u00f1os. Pero no advirtiendo de la desaparici\u00f3n de la humanidad en un n\u00famero desconocido de a\u00f1os, sino llamando la atenci\u00f3n sobre los efectos negativos que las empresas de IA ya est\u00e1n causando. Ella ve la difusi\u00f3n de escenarios apocal\u00edpticos por parte del sector como una distracci\u00f3n calculada.<\/p>\n Martes escribi\u00f3 Bender en la red social Mastodon<\/a>: \u201eCuando los chicos de AI gritan ‘\u00a1Cuidado, un monstruo!’ \u2013 para distraer a todos de sus pr\u00e1cticas (robo de datos, derroche de energ\u00eda, refuerzo de prejuicios, contaminaci\u00f3n del ecosistema de la informaci\u00f3n) \u2013 entonces deber\u00edamos arrancarles la m\u00e1scara\u201d. Bender tambi\u00e9n denuncia la concentraci\u00f3n del conocimiento, el dinero y el poder en manos de un n\u00famero reducido de empresas y sus altos ejecutivos y la desigualdad social que esto refuerza. Y la presentaci\u00f3n de la IA como un sistema con caracter\u00edsticas humanas ignorar\u00eda el hecho de que la IA consiste en sistemas que reconocen patrones y “hablan” como loros.<\/p>\n A su vez, los l\u00edderes del desarrollo de la IA argumentan que, a pesar de los riesgos, se puede esperar mucho bien de la IA, desde el desarrollo de medicamentos contra el c\u00e1ncer hasta bacterias que comen pl\u00e1stico y una soluci\u00f3n al problema clim\u00e1tico. Si solo discutimos c\u00f3mo hacerlo de manera segura, argumentan, la IA en realidad puede ayudar a la humanidad a avanzar.<\/p>\n Que reconozcan los riesgos de su tecnolog\u00eda, aunque a m\u00e1s largo plazo, parece ser bien recibido por los pol\u00edticos. Altman y Amodei, acompa\u00f1ados por altos ejecutivos de Google y Microsoft, pudieron ingresar a la Casa Blanca con el presidente Biden a principios de mayo. Ven a hablar de IA. <\/a> Biden les record\u00f3 su responsabilidad de “mitigar los riesgos”, la misma redacci\u00f3n que respaldaron en la declaraci\u00f3n del martes.<\/p>\nCerebros no humanos<\/h2>\n
\u00a1Cuidado, un monstruo!<\/h2>\n