Desbloquea el Editor’s Digest gratis
Roula Khalaf, editora del FT, selecciona sus historias favoritas en este boletín semanal.
A finales de 1943, Colossus Mark 1, la primera computadora programable del mundo, llegó a Bletchley Park, donde Alan Turing y otros estaban involucrados en una misión secreta para descifrar los cifrados alemanes. Ochenta años después, políticos y ejecutivos de tecnología llegarán a la finca de Buckinghamshire la próxima semana para discutir otra innovación que cambiará el mundo, de la cual Turing fue uno de los primeros teóricos: la inteligencia artificial. Se centrarán en algunas de las formas más avanzadas de la tecnología y en las amenazas que podrían plantear, desde provocar malestar social mediante el aumento del desempleo hasta ayudar a diseñar armas biológicas letales.
El primer ministro conservador de Gran Bretaña, Rishi Sunak, ha aprovechado la IA como un área donde el Reino Unido puede potencialmente proyectar influencia global, revelando esta semana planes para crear lo que llamó el “primer instituto de seguridad de IA del mundo” en Gran Bretaña. Esto investigaría las capacidades y los peligros de nuevos tipos de IA y compartiría su trabajo con el mundo.
Sin embargo, la cumbre de Sunak en Bletchley Park es un esfuerzo valioso cuya importancia va más allá de cualquier país. El debate sobre la seguridad de la IA hasta la fecha ha sido un tira y afloja entre la industria privada, la sociedad civil, los departamentos gubernamentales y los reguladores. La reunión, a la que China ha sido invitada con razón, a pesar de los recelos, particularmente de Estados Unidos, es una oportunidad para comenzar a construir colaboración y entendimiento internacional en torno a esta tecnología potencialmente trascendental.
El enfoque del primer ministro del Reino Unido es que no debería haber “prisa por regular” el sector y parece sensato. Es cierto que la tecnología de IA se está desarrollando tan rápido que constantemente surgen nuevas capacidades y aplicaciones, así como peligros, que podrían hacer que las reglas queden obsoletas casi tan pronto como se adopten. Pero dados los riesgos de la IA de frontera (que los propios innovadores admiten), la cumbre de Bletchley Park es un buen lugar para comenzar el debate sobre la forma más eficaz de regular.
Se espera que la reunión inicie un proceso mediante el cual gobiernos, servidores públicos, actores de la industria e investigadores científicos trabajen juntos para comprender mejor lo que está sucediendo en las fronteras de la tecnología de inteligencia artificial y los mejores enfoques para salvaguardarla. Queda mucho trabajo por hacer, incluida la definición de términos clave. Los “riesgos existenciales”, por ejemplo, podrían referirse a cualquier cosa, desde desinformación masiva hasta la toma de control de una inteligencia artificial divina.
La cumbre debe garantizar que la industria tecnológica desempeñe su papel para ayudar a detectar y gestionar los peligros, ya que sus propios expertos suelen estar en la mejor posición para hacerlo. Sunak propondrá un panel global de expertos, designados por los países y organizaciones que asistan a la cumbre, para publicar un informe sobre el “estado de la IA”. Un organismo de este tipo, inspirado en el Panel Intergubernamental sobre Cambio Climático de la ONU, también ha contado con el respaldo de destacados ejecutivos tecnológicos. Sin embargo, el papel de la industria no debe convertirse en una forma para que las empresas eludan la responsabilidad por los daños que la tecnología pueda causar.
Sobre todo, la reunión debería comenzar a establecer un marco internacional para la regulación que evite una mayor “balcanización” de las reglas y la captura regulatoria. La UE se caracteriza por adoptar un enfoque prescriptivo en su Ley de IA, que se espera sea aprobada a finales de año, que divide los usos potenciales en categorías de riesgo. China ha adoptado varias regulaciones nacionales sobre aspectos de la IA. La Casa Blanca ha conseguido compromisos voluntarios de las empresas de tecnología sobre la gestión de riesgos.
El discurso en torno a la IA a menudo puede parecer muy polarizado entre un tecnooptimismo en toda regla y proclamas pesimistas sobre el fin de la humanidad. Como ocurre con todas las tecnologías anteriores, la verdad se encuentra en algún punto intermedio, incluso si hay mucho en juego. Sería una pena sofocar el bien potencial, del mismo modo que sería peligroso regular sin conocer los mayores riesgos. Supervisar la IA puede ser un enigma, pero se puede resolver mediante la colaboración.
About the Author
