Manténgase informado con actualizaciones gratuitas
Simplemente regístrate en Inteligencia artificial myFT Digest: entregado directamente a su bandeja de entrada.
Los científicos chinos en inteligencia artificial se han unido a los académicos occidentales para pedir controles más estrictos sobre la tecnología que los propuestos por el Reino Unido, Estados Unidos y la UE, mientras las naciones establecen posiciones rivales antes de la cumbre global de seguridad de la IA de esta semana.
Varios académicos chinos asistentes a la cumbre en Bletchley Park, Inglaterra, que comienza el miércoles, firmaron una declaración que advierte que la IA avanzada representará un “riesgo existencial para la humanidad” en las próximas décadas.
El grupo, que incluye a Andrew Yao, uno de los científicos informáticos más destacados de China, pide la creación de un organismo regulador internacional, el registro y la auditoría obligatorios de los sistemas avanzados de IA, la inclusión de procedimientos de «apagado» instantáneo y que los desarrolladores gasten 30 por ciento de su presupuesto de investigación sobre la seguridad de la IA.
Las propuestas se centran más en el riesgo existencial que la orden ejecutiva del presidente estadounidense Joe Biden sobre IA emitida esta semana, que abarca la discriminación algorítmica y los impactos en el mercado laboral, así como la propuesta de Ley de IA de la Unión Europea, que se centra en proteger derechos como la privacidad.
La declaración también va más allá del borrador del comunicado sobre la seguridad de la IA que está elaborando el primer ministro del Reino Unido, Rishi Sunak, para la histórica cumbre, que no llega a pedir a los gobiernos que impongan regulaciones específicas.
Las medidas son una indicación temprana de la probable postura de China sobre la regulación global de la IA en un momento de mayor tensión sobre el liderazgo mundial de tecnologías clave entre Beijing y Washington.
La declaración conjunta difiere en énfasis de las regulaciones nacionales de IA de China, que se centran en el control y la censura del contenido. Beijing anunció recientemente su propia iniciativa global de gobernanza de la IA, que destaca la injusticia de las barreras a la adopción de la IA causadas por los controles de exportación de chips de Estados Unidos a China, una postura que será fuertemente cuestionada por Washington y sus aliados.
Los académicos detrás de la declaración conjunta, que también fue firmada por expertos occidentales como Yoshua Bengio de la Universidad de Montreal, se reunieron en octubre en la casa de campo de Ditchley Park, cerca de Oxford. Se reunieron para acordar una posición antes de la cumbre en Bletchley Park, una finca rural que albergaba a descifradores de códigos durante la Segunda Guerra Mundial.
«Habiendo aprendido las lecciones de cómo lidiar con los daños ambientales, debemos trabajar juntos como comunidad global para garantizar el progreso seguro de la IA», dijo Yao, uno de los organizadores de la declaración.
Ya-Qin Zhang, decano de la Universidad de Tsinghua y ex presidente del gigante tecnológico Baidu, dijo que era necesario garantizar que la futura inteligencia artificial general fuera «segura y digna de confianza».
Si bien Beijing no está en la lista de asistentes el primer día de la cumbre, fuentes familiarizadas con el gobierno chino dijeron que asistiría el Ministerio de Ciencia y Tecnología. El Ministerio de Asuntos Exteriores no respondió a una solicitud de comentarios.
El borrador del comunicado del Reino Unido, visto por el Financial Times, no llega a proponer regulaciones, pero advierte sobre el “potencial de daño grave, incluso catastrófico” que plantean los modelos de IA avanzados o “de frontera”.
Sunak quiere que el comunicado sea firmado por políticos presentes en la cumbre, incluidos Canadá, India, Corea del Sur, Japón, Singapur, España, Estados Unidos y la UE. También se espera que asistan ejecutivos de tecnología, incluido el director de OpenAI, Sam Altman, y Elon Musk, director de X, anteriormente Twitter.
En un discurso que pronunciará en Londres el miércoles, la vicepresidenta de Estados Unidos, Kamala Harris, argumentará que si bien “la IA tiene el potencial de hacer un bien profundo, también tiene el potencial de causar un daño profundo, a partir de ciberataques habilitados por la IA en una escala más allá de todo lo que hayamos visto antes para las armas biológicas formuladas por IA que podrían poner en peligro la vida de millones”.
Tales riesgos “podrían poner en peligro la existencia misma de la humanidad”, dirá Harris, según extractos de su discurso vistos por el Financial Times. «Estas amenazas son, sin lugar a dudas, profundas y exigen una acción global».
En un esfuerzo por generar impulso y un legado temprano para el evento, el Reino Unido está listo para anunciar a Corea del Sur como anfitrión de la próxima cumbre de seguridad de IA en 2024, según dos personas informadas sobre la decisión.
Paul Triolo, asociado principal del centro de estudios del Centro de Estudios Estratégicos e Internacionales en Washington, dijo que seleccionar a Corea del Sur fue una “elección inteligente”, ya que el país era visto como relativamente neutral en el escenario internacional.
Información adicional de Stefania Palma en Washington