Les dirigeants menant la course à l’IA qui a transpercé l’industrie technologique, y compris les PDG d’OpenAI, Google et Microsoft, ont été convoqués à une réunion à la Maison Blanche jeudi pour ce qu’un haut responsable américain a décrit comme une « discussion franche » sur leur responsabilités de s’assurer que leurs systèmes sont sécuritaires.
La réunion, à laquelle assisteront le vice-président Kamala Harris et d’autres hauts fonctionnaires, intervient alors que l’administration de Joe Biden s’efforce de développer une réponse plus concertée aux récentes avancées rapides de la technologie. Cela survient également quelques jours après que le pionnier de l’IA Geoffrey Hinton a lancé l’un des avertissements les plus notables sur les dangers à long terme du développement de machines qui deviennent plus intelligentes que les humains.
« Un grand nombre de [the big tech companies] ont parlé de leurs responsabilités, et une partie de ce que nous voulons faire est de nous assurer que nous avons une conversation sur la façon dont ils vont remplir ces promesses », a déclaré le haut responsable de l’administration. Cette personne n’a décrit aucune autre réglementation ou action que l’administration Biden pourrait envisager.
Les dirigeants invités à la réunion ont été informés qu’elle se concentrerait sur les risques découlant du développement « actuel et à court terme » de la technologie. Mais en soulignant la « responsabilité fondamentale de s’assurer que leurs systèmes sont fiables et sûrs avant qu’ils ne soient publiés ou déployés », cela aidera également à faire face à « ce qui sera probablement des technologies beaucoup plus puissantes à l’avenir », a déclaré le responsable.
Avant la réunion, la Maison Blanche a déclaré que sept des plus grandes sociétés d’IA avaient accepté d’ouvrir leurs modèles à un certain examen public lors de la convention annuelle des hackers Def Con en août. Cependant, il a déclaré que le niveau d’ouverture serait « compatible avec les principes de divulgation responsable », laissant incertain ce que les entreprises divulgueraient. OpenAI a refusé de publier même des informations techniques de base sur son dernier grand modèle de langage, GPT-4.
La Maison Blanche a également déclaré que le Bureau de la gestion et du budget publierait cet été un projet de directives pour commentaires du public régissant l’utilisation de l’IA par le gouvernement fédéral.
Les leaders technologiques présents à la réunion de jeudi sont le directeur général d’OpenAI, Sam Altman, le PDG de Microsoft, Satya Nadella, et Sundar Pichai, directeur général de Google et Alphabet, ainsi que Dario Amodei, PDG de la start-up Anthropic. Les responsables de l’administration présents à la réunion devraient inclure Jake Sullivan, le directeur du Conseil de sécurité nationale ; Lael Brainard, directrice du Conseil économique national ; Gina Raimondo, la secrétaire au commerce, et Jeff Zients, le chef de cabinet de la Maison Blanche.
L’administration Biden a annoncé une série d’initiatives autour de l’IA ces derniers mois, notamment la publication d’un projet de déclaration des droits de l’IA et lancer une revue en avril de quelles nouvelles normes techniques sont nécessaires pour garantir que les systèmes d’IA fonctionnent comme prévu, plutôt que d’exposer les gens à des risques imprévus.
Lina Khan, présidente de la Federal Trade Commission, sonné l’une des alarmes les plus fortes de l’administration jeudi. Écrivant dans le New York Times, elle a déclaré que son agence examinerait si les lois existantes peuvent être utilisées pour lutter contre des problèmes tels que les escroqueries en ligne et les violations de la vie privée causées par l’IA.