Los ejecutivos que lideran la carrera de IA que ha paralizado a la industria tecnológica, incluidos los directores generales de OpenAI, Google y Microsoft, fueron convocados a una reunión en la Casa Blanca el jueves para lo que un alto funcionario estadounidense describió como una “discusión franca” sobre su responsabilidades para asegurarse de que sus sistemas sean seguros.
La reunión, a la que asistirá la vicepresidenta Kamala Harris y otros altos funcionarios, se produce cuando la administración de Joe Biden se esfuerza por desarrollar una respuesta más concertada a los rápidos avances tecnológicos recientes. También llega días después de que el pionero de la IA, Geoffrey Hinton, hiciera sonar una de las advertencias más notables sobre los peligros a largo plazo de desarrollar máquinas que se vuelvan más inteligentes que los humanos.
“Muchos de [the big tech companies] han hablado sobre sus responsabilidades, y parte de lo que queremos hacer es asegurarnos de tener una conversación sobre cómo van a cumplir con esas promesas”, dijo el alto funcionario de la administración. Esta persona no describió más regulaciones o acciones que la administración de Biden podría considerar.
A los ejecutivos invitados a la reunión se les ha dicho que se centrará en los riesgos derivados del desarrollo “actual y a corto plazo” de la tecnología. Pero al subrayar la “responsabilidad fundamental de asegurarse de que sus sistemas sean confiables y seguros antes de que sean lanzados o implementados”, también ayudará a lidiar con “lo que probablemente serán tecnologías mucho más poderosas en el futuro”, dijo el funcionario.
Antes de la reunión, la Casa Blanca dijo que siete de las compañías de IA más grandes acordaron abrir sus modelos a cierto grado de escrutinio público en la convención anual de piratas informáticos Def Con en agosto. Sin embargo, dijo que el nivel de apertura sería “consistente con los principios de divulgación responsable”, sin dejar claro cuánto revelarían las empresas. OpenAI se ha negado a publicar incluso información técnica básica sobre su último modelo de lenguaje grande, GPT-4.
La Casa Blanca también dijo que la Oficina de Administración y Presupuesto publicaría un borrador de pautas para comentarios públicos este verano que rigen el uso de la IA por parte del gobierno federal.
Los líderes tecnológicos que asistirán a la reunión del jueves son el director ejecutivo de OpenAI, Sam Altman, el director ejecutivo de Microsoft, Satya Nadella, y Sundar Pichai, director ejecutivo de Google y Alphabet, junto con Dario Amodei, director ejecutivo de la empresa emergente de inteligencia artificial Anthropic. Los funcionarios de la administración en la reunión incluirán a Jake Sullivan, director del Consejo de Seguridad Nacional; Lael Brainard, directora del Consejo Económico Nacional; Gina Raimondo, secretaria de comercio, y Jeff Zients, jefe de gabinete de la Casa Blanca.
La administración Biden ha anunciado una serie de iniciativas en torno a la IA en los últimos meses, incluida la publicación de un proyecto de ley de derechos de la IA y lanzando una revisión en abril sobre qué nuevos estándares técnicos se necesitan para garantizar que los sistemas de IA funcionen según lo previsto, en lugar de exponer a las personas a riesgos imprevistos.
Lina Khan, presidenta de la Comisión Federal de Comercio, sonado una de las alarmas más fuertes de la administración el jueves. Escribiendo en el New York Times, dijo que su agencia analizaría si las leyes existentes se pueden usar para abordar cosas como las estafas en línea y las violaciones de la privacidad causadas por la IA.
About the Author
