En la cumbre de Rishi Sunak sobre inteligencia artificial esta semana, un delegado dijo que el Primer Ministro brit\u00e1nico hab\u00eda dado un \u201cgolpe diplom\u00e1tico\u201d al lograr que funcionarios estadounidenses y chinos se unieran sobre la necesidad de controlar la IA.<\/p>\n
En medio de las crecientes tensiones comerciales y tecnol\u00f3gicas entre Washington y Beijing, el delegado chino, el Dr. Wu Zhaohui, sorprendi\u00f3 a algunos en el evento de dos d\u00edas en Bletchley Park, Inglaterra, al coincidir en que estaban unidos por los valores comunes de \u201cdemocracia\u201d y \u201clibertad\u201d en el mundo. luchar contra los usos maliciosos de la IA. <\/p>\n
Los amplios compromisos de 28 naciones para trabajar juntos para abordar los riesgos existenciales derivados de la IA avanzada, adem\u00e1s de atraer a figuras tecnol\u00f3gicas l\u00edderes desde Tesla y el jefe de X, Elon Musk, hasta Sam Altman de OpenAI, llevaron a muchos a decir que la cumbre de IA de Sunak hab\u00eda sido un \u00e9xito.<\/p>\n
“Es un gran ejemplo del poder de convocatoria del Reino Unido, porque tiene a todas estas personas bajo un mismo techo”, dijo Jean Carberry, subsecretario de pol\u00edtica digital del Departamento de Empresa, Comercio y Empleo de Irlanda. “Ha sido bastante catalizador”.<\/p>\n
Pero la cumbre de Bletchley Park tambi\u00e9n ha expuesto tensiones subyacentes sobre el desarrollo de la IA. La vicepresidenta estadounidense, Kamala Harris, celebr\u00f3 una conferencia de prensa en Londres durante la cumbre, donde explic\u00f3 en detalle la intenci\u00f3n de su pa\u00eds de escribir sus propias reglas del juego.<\/p>\n
\u201cSeamos claros: cuando se trata de IA, Estados Unidos es un l\u00edder mundial. Son las empresas estadounidenses las que lideran el mundo en innovaci\u00f3n en IA. Es Estados Unidos quien puede catalizar la acci\u00f3n global y construir un consenso global de una manera que ning\u00fan otro pa\u00eds puede hacerlo\u201d, dijo Harris, intencionadamente. <\/p>\n
A principios de semana, el presidente Joe Biden emiti\u00f3 una orden ejecutiva que obligaba a las empresas de inteligencia artificial cuyos modelos podr\u00edan amenazar la seguridad nacional de Estados Unidos a compartir c\u00f3mo garantizan la seguridad de sus herramientas. <\/p>\n
En Bletchley, EE.UU. tambi\u00e9n anunci\u00f3 un plan para crear su propio Instituto de Seguridad de la IA, dotado de expertos para monitorear los riesgos, que trabajar\u00eda en estrecha colaboraci\u00f3n con un organismo similar creado por el Reino Unido que tiene ambiciones de desempe\u00f1ar un mayor papel global en la investigaci\u00f3n de los riesgos relacionados con la IA.<\/p>\n
Un pol\u00edtico presente dijo que la apropiaci\u00f3n de tierras por parte de Estados Unidos era \u201cinevitable\u201d. “La IA es el pr\u00f3ximo gran avance, y nadie va a darse la vuelta y hacerse el muerto y decir que t\u00fa te haces cargo”, dijeron. “China no va a permitir que eso suceda, y ciertamente Estados Unidos no lo har\u00e1”.<\/p>\n
\n\nEl c\u00f3digo abierto es el modelo m\u00e1s potente. . . peligroso desde el punto de vista de la seguridad. Una vez que tenga acceso a los pesos en el sistema, podr\u00e1 convertirlos f\u00e1cilmente en algo malicioso.<\/p>\n<\/div>\n<\/blockquote>\n
La persona agreg\u00f3 que una de las razones por las que los chinos hab\u00edan sido tan d\u00f3ciles en el desarrollo de una posici\u00f3n conjunta sobre la gobernanza global de la IA era que “jugar bien” y actuar como un “socio responsable” podr\u00eda ayudar a fomentar conversaciones sobre la relajaci\u00f3n de las barreras comerciales impuestas. por Estados Unidos m\u00e1s adelante.<\/p>\n
Otra fuente de debate fue si se debe permitir que los modelos sofisticados de IA sean \u201cabiertos\u201d o \u201ccerrados\u201d. Algunas empresas como Meta y nuevas empresas como Hugging Face, Mistral y Stability AI est\u00e1n construyendo sistemas de inteligencia artificial de c\u00f3digo abierto, lo que quieren decir que los detalles t\u00e9cnicos del nuevo modelo se har\u00e1n p\u00fablicos. <\/p>\n
Esto contrasta con el enfoque de competidores como OpenAI y Google, respaldados por Microsoft, que crean la llamada caja negra en la que los datos y el c\u00f3digo utilizados para construir modelos de IA no est\u00e1n disponibles para terceros.<\/p>\n
Los defensores de los modelos cerrados dicen que pueden cumplir mejor con regulaciones estrictas, controlar qui\u00e9n tiene acceso a ellos y evitar que caigan en manos de actores maliciosos. Pero otros sostienen que los modelos abiertos ayudar\u00e1n a garantizar que los pa\u00edses y grupos acad\u00e9micos con menos recursos puedan desarrollar sus propios sistemas de IA.<\/p>\n
\u201cEn estas discusiones, hay objetivos contradictorios. Y veo pa\u00edses. . . que quieran asegurarse de poder ponerse al d\u00eda con los \u00faltimos avances. . . diciendo cosas como ‘deber\u00edamos compartir todo’\u201d, dijo Yoshua Bengio, director cient\u00edfico del Instituto de Algoritmos de Aprendizaje de Montreal y pionero del aprendizaje profundo, la tecnolog\u00eda detr\u00e1s de los sofisticados modelos de IA actuales. <\/p>\n
Pero a\u00f1adi\u00f3: \u201cEl c\u00f3digo abierto es el modelo m\u00e1s s\u00f3lido. . . peligroso desde el punto de vista de la seguridad. Una vez que puedas tener acceso a los pesos en el sistema, puedes convertirlos f\u00e1cilmente en algo malicioso\u201d.<\/p>\n
Emad Mostaque, fundador y director ejecutivo de la empresa de IA de imagen Stability AI, que funciona con tecnolog\u00eda de c\u00f3digo abierto, dijo que Francia hab\u00eda sido particularmente vocal en su apoyo a un mayor acceso a modelos sofisticados de IA, en parte debido a su nueva empresa local de IA, Mistral. que est\u00e1 creando software de c\u00f3digo abierto. <\/p>\n
\u201cPero, en \u00faltima instancia, casi todos los funcionarios gubernamentales con los que hablo se dan cuenta de que los gobiernos deben funcionar de forma abierta. En las industrias reguladas no se pueden tener cajas negras\u201d, afirm\u00f3. “Existe una cuesti\u00f3n de seguridad nacional: \u00bfrealmente se puede confiar en que alguien m\u00e1s haga esta tecnolog\u00eda?” <\/p>\n