En Washington, los gigantes tecnológicos se comprometen a mejorar la seguridad de la IA

Como parte de una visita a la Casa Blanca el 21 de julio de 2023, varios de los principales grupos tecnológicos estadounidenses acordaron una serie de compromisos en torno a la inteligencia artificial (IA). Su objetivo: permitir el desarrollo de esta tecnología garantizando la seguridad de sus usuarios y la de los datos utilizados para su creación.

Los gigantes tecnológicos tienen sus cartas sobre la mesa cuando se trata de seguridad

Con el advenimiento de la inteligencia artificial generativa, impulsada por el lanzamiento de ChatGPT de OpenAI en noviembre pasado, el tema de la seguridad se ha convertido en una gran preocupación. Esto es cierto en Europa, donde se está preparando un texto, pero también en los Estados Unidos, donde tienen su sede los principales actores del sector. Durante una reunión en Washington con el presidente de los Estados Unidos, Joe Biden, los directores técnicos y ejecutivos de siete gigantes tecnológicos estadounidenses se comprometieron a ” contribuir a un desarrollo seguro, protegido y transparente de la IA “.

Asistieron el director ejecutivo de Amazon Web Services, Adam Selipsky, el director ejecutivo de Anthropic, Dario Amodei, el director de asuntos globales de Google, Kent Walker, el director ejecutivo de Inflection, Mustafa Suleyman, el director de asuntos globales de Meta, Nick Clegg, el presidente de Microsoft, Brad Smith, y el presidente de OpenAI, Greg Brockman. Todos han coincidido con la Administración Biden en la aplicación de varias iniciativas para regular mejor la IA, su desarrollo y sus usos.

Tuve el honor de representar @Amazonas hoy en un evento en la Casa Blanca, donde los líderes gubernamentales y de la industria se comprometieron a continuar promoviendo el desarrollo seguro, protegido y transparente de la tecnología de IA. Estos compromisos se basan en el enfoque de Amazon hacia una IA responsable y segura… pic.twitter.com/elzdiclfJx

— Adam Selipsky (@aselipsky) 21 de julio de 2023

Primero, sus empresas desarrollarán una forma para que los consumidores identifiquen el contenido generado por máquinas a través de un sistema de marcas de agua. El pasado mes de febrero, OpenAI presentó una herramienta que detectaba si un texto había sido escrito con inteligencia artificial.

Luego, estas empresas contratarán expertos independientes para evaluar la seguridad de sus herramientas antes de hacerlas públicas. Los invitará regularmente a analizar, investigar y finalmente reportar posibles vulnerabilidades en sus sistemas. Con miras a la prevención y la concientización, los gigantes de la IA compartirán sus consejos sobre cómo usar sus herramientas correctamente y resaltarán los límites de sus tecnologías.

Un paso más hacia el establecimiento de un marco legislativo de IA en Estados Unidos

Darán prioridad a la investigación sobre los riesgos sociales de la inteligencia artificial, particularmente en términos de discriminación y respeto por la privacidad. Una medida que se hace eco de la carta cofirmada por investigadores especializados y que denuncia la carrera de IA de estas empresas tecnológicas. Los firmantes pidieron una pausa para centrar la investigación en ” mejorar la precisión, la seguridad, la interpretabilidad, la transparencia, la solidez, la alineación, la fiabilidad y la equidad » Herramientas de IA.

Finalmente, la Casa Blanca quería que la IA se usara para ayudar a resolver algunos de los desafíos de nuestro siglo: combatir el cambio climático y encontrar curas para enfermedades graves. Si bien la administración Biden ve estos compromisos como un paso adelante, un funcionario de la Casa Blanca le dijo al New York Times que estas futuras iniciativas sin duda permitirán “ ampliar los límites de lo que hacen las empresas y elevar los estándares de seguridad y confianza en la IA “, pero que sin embargo, ” no había cambiado la necesidad de promulgar una legislación bipartidista “.

El alto funcionario se refiere al proyecto de ley presentado por los senadores estadounidenses para el uso transparente de la IA mientras se promueve la competitividad del sector. Dentro de la Unión Europea, la Ley de IA ha sido aprobada por el Parlamento Europeo, y se espera que entre en vigor el próximo año. El Viejo Continente ha emprendido trabajos para la creación de un código de conducta internacional con el G7, Indonesia e India.