¿Qué recordar de la primera edición de la AI Safety Summit?

Los días 1 y 2 de noviembre de 2023 se celebró en Bletchley, Reino Unido, la primera edición de AI Safety Summit, una cumbre dedicada a la inteligencia artificial y los riesgos que rodean a esta tecnología. Este evento fue una oportunidad para que muchos líderes y estadistas hicieran varios anuncios con un mismo objetivo: supervisar mejor la IA en todo el mundo.

Una declaración histórica que compromete a las grandes potencias a regular mejor el desarrollo de la IA

Esta primera edición estuvo marcada por una declaración firmada por 28 países comprometiéndose a limitar los riesgos inducidos por el desarrollo de la inteligencia artificial. Estados Unidos, China, Francia, Alemania, Reino Unido, entre otros, consideran que existe un “ Necesidad urgente de comprender y gestionar colectivamente los riesgos. » de la IA.

“ Esta declaración histórica marca el inicio de un nuevo esfuerzo global para generar confianza pública en la IA garantizando que sea segura, » declaró en X el primer ministro del Reino Unido, Rishi Sunak. Al mismo tiempo, Gina Raimondo, secretaria de Comercio de Estados Unidos, anunció la creación de un instituto de seguridad estadounidense encargado de evaluar los riesgos de la IA. Una iniciativa que forma parte del decreto firmado el 31 de octubre por Joe Biden para regular mejor el desarrollo de la IA en Estados Unidos.

Las grandes empresas también dan un paso adelante para limitar los riesgos

Además de los estadistas, las grandes empresas también se han comprometido a evaluar los riesgos de sus tecnologías. OpenAI, Google DeepMind, Anthropic, Amazon, Mistral AI y Meta, entre otros, han firmado un acuerdo que permite a los gobiernos de la mayoría de los países firmantes de la declaración antes citada, probar sus últimos modelos de IA para saber si no lo hicieron. suponer ningún riesgo para su seguridad interior. Sólo China se negó a participar en este acuerdo.

“ Es fundamental que establezcamos formas de evaluar y abordar los desafíos actuales que presenta la IA, así como los riesgos asociados a una tecnología que aún no existe. dijo Nick Clegg, presidente de negocios globales de Meta. “ Siempre haremos nuestras propias pruebas, dijo Jack Clark, cofundador de Anthropic, “ pero realmente quiero que haya una autoridad de pruebas de terceros legítima que podamos ofrecer para probar nuestras soluciones y obtener resultados convincentes. “.

Bruno Le Maire y Jean-Noël Barrot aportan un soplo de innovación a la AI Safety Summit

Francia estuvo presente en esta primera edición de la AI Safety Summit. El ministro de Economía y Finanzas, Bruno Le Maire, pronunció un discurso centrado en la innovación, más que en la regulación y supervisión de la IA. “ Tenemos que confiar en los ingenieros, comprender cómo llegamos allí, cuáles son los riesgos reales y cómo los controlamos. No debemos ceder ante la conspiración o el catastrofismo, » declaró Bruno Le Maire, ecos.

El ministro también se refirió al dominio de Nvidia en infraestructura para entrenar y operar modelos de IA exitosos. “ Tener un país con todas las tecnologías, todas las empresas privadas, todos los dispositivos, todas las habilidades sería un fracaso para todos nosotros. » asegura. Con el apoyo de la Unión Europea, le gustaría animar a las empresas francesas y europeas a hacerse un hueco en el mercado de la IA y competir con los líderes del sector.

Jean-Noël Barrot, Ministro Delegado para la Transición Digital, también estuvo presente en Bletchley Park. Se reunió con el ministro de Economía y el director de OpenAI, Sam Altman. “ Reiteramos nuestras prioridades en materia de inteligencia artificial: desarrollar talentos y tecnologías en Francia, actuar para una regulación eficaz que preserve la innovación, » especifica Jean Noël Barrot en una publicación en X. Francia también será la organizadora de la segunda edición física de la AI Safety Summit que tendrá lugar el próximo año.