Manténgase informado con actualizaciones gratuitas
Simplemente regístrate en Inteligencia artificial myFT Digest: entregado directamente a su bandeja de entrada.
Las empresas de inteligencia artificial OpenAI, Anthropic y Cohere han entablado una diplomacia secreta con expertos chinos en IA, en medio de la preocupación compartida sobre cómo la poderosa tecnología puede difundir información errónea y amenazar la cohesión social.
Según varias personas con conocimiento directo, en julio y octubre del año pasado se celebraron dos reuniones en Ginebra a las que asistieron científicos y expertos en políticas de los grupos norteamericanos de IA, junto con representantes de la Universidad de Tsinghua y otras instituciones respaldadas por el estado chino.
Los asistentes dijeron que las conversaciones permitieron a ambas partes discutir los riesgos de la tecnología emergente y fomentar las inversiones en la investigación de seguridad de la IA. Agregaron que el objetivo final era encontrar un camino científico para desarrollar de manera segura una tecnología de inteligencia artificial más sofisticada.
“No hay manera de que establezcamos estándares internacionales en torno a la seguridad y la alineación de la IA sin un acuerdo entre este conjunto de actores”, dijo una persona presente en las conversaciones. “Y si están de acuerdo, será mucho más fácil atraer a los demás”.
Las conversaciones de las que no se había informado anteriormente son una rara señal de cooperación entre China y Estados Unidos en medio de una carrera por la supremacía entre las dos principales potencias en el área de tecnologías de vanguardia como la inteligencia artificial y la computación cuántica. Actualmente, Washington ha bloqueado las exportaciones estadounidenses de chips de alto rendimiento fabricados por empresas como Nvidia que se necesitan para desarrollar software sofisticado de inteligencia artificial.
Pero el tema de la seguridad de la IA se ha convertido en un punto de interés común entre los desarrolladores de la tecnología en ambos países, dados los posibles riesgos existenciales para la humanidad.
Las reuniones de Ginebra se organizaron con el conocimiento de la Casa Blanca, así como de funcionarios gubernamentales del Reino Unido y China, según un negociador presente, que pidió no ser identificado.
“China apoya los esfuerzos para discutir la gobernanza de la IA y desarrollar marcos, normas y estándares necesarios basados en un amplio consenso”, dijo la embajada china en el Reino Unido.
“China está dispuesta a llevar a cabo comunicaciones, intercambios y cooperación práctica con diversas partes sobre la gobernanza global de la IA y garantizar que la IA se desarrolle de una manera que haga avanzar la civilización humana”.
Las conversaciones fueron convocadas por el Shaikh Group, una organización de mediación privada que facilita el diálogo entre actores clave en regiones en conflicto, particularmente en Medio Oriente.
“Vimos una oportunidad de reunir a actores clave de Estados Unidos y China que trabajan en IA. Nuestro objetivo principal era subrayar las vulnerabilidades, los riesgos y las oportunidades que conlleva el amplio despliegue de modelos de IA que se comparten en todo el mundo”, dijo Salman Shaikh, director ejecutivo del grupo.
“En nuestra opinión, reconocer este hecho puede convertirse en la base para el trabajo científico colaborativo y, en última instancia, conducir a estándares globales en torno a la seguridad de los modelos de IA”.
Quienes participaron en las conversaciones dijeron que las empresas chinas de inteligencia artificial como ByteDance, Tencent y Baidu no participaron; Si bien Google DeepMind fue informado de los detalles de las discusiones, no asistió.
Durante las conversaciones, expertos en IA de ambas partes debatieron áreas para la participación en la cooperación técnica, así como propuestas políticas más concretas que alimentaron las discusiones en torno a la reunión del Consejo de Seguridad de la ONU sobre IA en julio de 2023 y la cumbre sobre IA del Reino Unido en noviembre pasado. año.
El éxito de las reuniones ha llevado a planes para futuras discusiones que se centrarán en propuestas científicas y técnicas sobre cómo alinear los sistemas de IA con los códigos legales y las normas y valores de cada sociedad, según el negociador presente.
Ha habido crecientes llamados a la cooperación entre las principales potencias para abordar el auge de la IA.
En noviembre, los científicos chinos que trabajan en inteligencia artificial se unieron a académicos occidentales para pedir controles más estrictos sobre la tecnología, firmando una declaración que advertía que la IA avanzada representaría un “riesgo existencial para la humanidad” en las próximas décadas.
El grupo, que incluía a Andrew Yao, uno de los científicos informáticos más destacados de China, pidió la creación de un organismo regulador internacional, el registro y la auditoría obligatorios de los sistemas avanzados de IA, la inclusión de procedimientos de “apagado” instantáneo y que los desarrolladores gasten 30 por ciento de su presupuesto de investigación sobre seguridad de la IA.
OpenAI, Anthropic y Cohere declinaron hacer comentarios sobre su participación. La Universidad de Tsinghua no respondió de inmediato a una solicitud de comentarios.
Este artículo ha sido modificado para dejar claro en el subtítulo que Anthropic, no Inflection, estuvo involucrado en las conversaciones de Ginebra.