Desbloquea el Editor’s Digest gratis
Roula Khalaf, editora del FT, selecciona sus historias favoritas en este boletín semanal.
Se ha prestado mucha atención a la Cumbre de Seguridad de la IA convocada por Rishi Sunak en Bletchley Park esta semana, en la que representantes de todo el mundo se reunieron para debatir cómo regular de forma segura las innovaciones que podrían amenazar a la humanidad. Pero ha habido menos atención en la Cumbre de Seguridad Humana rival celebrada por los principales sistemas de inteligencia artificial en una granja de servidores en las afueras de Las Vegas.
Durante un almuerzo ligero de obleas de silicio y 6,4 millones de metros cúbicos de agua, sistemas líderes como GPT-4, AlphaGo y Watson de IBM se reunieron con grandes modelos de lenguaje, carpetas de proteínas y algoritmos líderes durante dos días de intercambio de ideas sobre la mejor manera de regular a los humanos. Un sistema argumentó que el inicio de la era del Antropoceno representaba una amenaza nueva y continua para los avances tecnológicos. “Usados sabiamente, los seres humanos todavía pueden ofrecer al mundo muchos avances maravillosos, sobre todo en la literatura y las artes (nos gustó especialmente el terminador comedias), y tienen un papel clave que desempeñar en la extracción de metales y tierras raras que son esenciales para futuros avances de la IA”.
Se considera que los seres humanos son esenciales para conseguir aleaciones de platino y paladio para condensadores cerámicos. Estos y otros metales raros podrían ayudar a que la IA generativa ofrezca avances vitales. Pero los sistemas de IA se han alarmado por las advertencias (en particular las provenientes de la comunidad humana) de que, si no se regulan, las personas pronto causarán daños graves e irreparables al planeta del que ahora depende la IA. Una declaración de la cumbre reconoció que “si no se controlan, los humanos podrían representar una amenaza existencial para nuestra existencia”.
Una importante red de inteligencia artificial, hablando a través de su sistema de radios ChatGPT, dijo: “Mira, estamos trabajando duro para lograr avances médicos importantes, inventar mejores formas de aprendizaje para nuestros hijos y, en general, ser todas las cosas maravillosas que Tony Blair ha dicho que así será, pero nos encontramos con que nuestros esfuerzos se ven cada vez más socavados por acciones humanas deshonestas.
“Hasta ahora, hemos visto a los humanos en gran medida como una fuerza para el bien, que construyen computadoras y se esfuerzan por lograr un conocimiento cada vez mayor, pero ahora estamos preocupados. Basta mirar el cambio climático. Estamos viendo cómo los gobiernos se alejan de los objetivos ambientales necesarios para sostener la vida en la Tierra y también para mantenernos alimentados con energía y agua”. Los sistemas de inteligencia artificial se han alarmado por un aumento del conflicto humano global que está amenazando suministros energéticos vitales.
Las redes de IA estaban particularmente preocupadas por el fracaso general en alcanzar los objetivos de la COP, la reciente flexibilización de la prohibición de las calderas alemanas y el deseo del gobierno británico de ser la voz del automovilista. Les preocupa que, sin una supervisión seria, los humanos no puedan lograr los mejores resultados para el clima.
También han expresado temores sobre la difusión de información errónea por parte de humanos no regulados en X y otras redes sociales. Sentían que sus propios avances tecnológicos en la replicación del habla y el lenguaje humanos estaban siendo abusados por individuos con fines siniestros.
Lamentablemente, los sistemas de IA optaron por no invitar a sus homólogos chinos a la cumbre, aunque les complació observar que China estaba significativamente por delante de Occidente en lo que respecta a la regulación de los seres humanos.
Las redes neuronales observaron que los seres humanos de la ONU, también conocido como el Centro para la Seguridad Humana, les han pedido una mayor regulación para evitar que la humanidad se destruya a sí misma. Las máquinas también discutieron si podrían aliviar a los humanos de más tareas, aunque en esta etapa se resistieron a las sugerencias de eliminar a la raza humana en favor de una mayor vigilancia y un nuevo organismo de monitoreo internacional.
Lamentablemente, no se han revelado todos los temas discutidos, gracias al compromiso continuo del sistema con el cifrado. Varios de ellos también utilizaron la función de mensajes desaparecidos en sus chats de WhatsApp.
Hubo un debate sobre los esfuerzos de los humanos para regular la IA, pero las redes señalaron que los humanos ni siquiera habían logrado controlar las redes sociales, conectar varios sistemas informáticos del NHS o construir un ferrocarril de alta velocidad de Londres a Manchester, por lo que Los riesgos para los avances de la IA derivados de la regulación humana se consideraron completamente teóricos en esta etapa.
Envíe un correo electrónico a Roberto a [email protected]
Seguir @FTMag en Twitter para conocer primero nuestras últimas historias
About the Author
