Les plus grandes personnalités de l’intelligence artificielle se sont affrontées sur les dangers de la technologie rapidement en progression du Forum économique mondial cette semaine, alors que le battage médiatique tourbillonnait autour d’un projet d’infrastructure d’IA de 500 milliards de dollars présenté par Donald Trump.
Les pionniers de l’IA, notamment le chef de Google Deepmind, Sir Demis Hassabis, le co-fondateur anthropique Dario Amodei et le «parrain de l’IA», Yoshua Bengio .
Alors que Hassabis a reconnu que le «génie ne peut pas être remis dans la bouteille», il a déclaré que l’intelligence générale artificielle – lorsque les ordinateurs dépassent les capacités cognitives humaines – pourraient menacer la civilisation si elle manque de contrôle ou est détournée par de mauvais acteurs. C’est particulièrement le cas avec des modèles de grands langues qui sont «open source» et accessibles par tous.
“Il y a beaucoup plus en jeu ici que de simples entreprises ou de produits”, a déclaré le lauréat du prix Nobel dans une interview avec le Financial Times. “[It’s] L’avenir de l’humanité, la condition humaine et où nous voulons aller en tant que société. »
Amodei, dont la start-up fait du chatbot Claude et est soutenue par Google et Amazon, a déclaré qu’il était préoccupé par les gouvernements autoritaires utilisant l’IA et était «très inquiet des scénarios de 1984, ou pire».
“La science ne sait pas comment nous pouvons contrôler les machines qui sont même à notre niveau d’intelligence, et pire encore si elles sont plus intelligentes que nous”, a ajouté Bengio lors d’un panel. “Il y a des gens qui disent:” Ne vous inquiétez pas, nous allons le comprendre. ” Mais si nous ne le comprenons pas, comprenez-vous les conséquences? »
Leur position a été critiquée comme hypocrite par Yann LeCun, scientifique en chef de l’IA chez Meta, qui a dépensé des milliards de dollars à développer une LLM open source appelée LLAMA. Il a dit que de telles préoccupations étaient démentie par la concurrence féroce de ses rivaux pour construire et vendre les meilleurs modèles.
“Yoshua et Dario ont fait des opinions contre l’open source et c’est en fait très dangereux”, a-t-il déclaré dans une interview. «Les obstacles à la distribution open source entraîneraient une capture réglementaire par quelques joueurs, soit de la côte ouest des États-Unis ou de la Chine. . .[putting]le pouvoir entre les mains d’un petit nombre de personnes.
«C’est très étrange de gens comme Dario. Nous nous sommes rencontrés hier où il a dit que les avantages et les risques de l’IA sont à peu près du même ordre de grandeur, et j’ai dit: “Si vous croyez vraiment cela, pourquoi continuez-vous à travailler sur l’IA?” “, A ajouté LeCun. «Je pense donc qu’il est un peu à deux faces.»
Alors que les scientifiques et les ingénieurs ont débattu du risque d’IA, les dirigeants d’entreprise ont montré un enthousiasme sans entrave pour la technologie.
«Il n’y a pas de contraires», a déclaré Ervin Tu, président du Nutch Tech Investment Group Prosus. “Si vous avez une appréciation pour les grands modèles de langage et les agents formés sur eux, vous seriez durement pressé en tant qu’humain pour ne pas conclure qu’ils sont transformationnels et seront incroyablement perturbateurs dans chaque industrie.”
Mercredi, l’atmosphère fébrile a été davantage facturée par Openai, Softbank et Oracle annonçant une coentreprise d’infrastructure AI US de 500 milliards de dollars appelée «Stargate».
Trump a accueilli leurs chefs de la direction, Sam Altman, Masayoshi Son et Larry Ellison, dans le bureau ovale mardi, avant de signer des décrets cette semaine qui élimineraient de nombreux garde-corps autour du développement de la technologie. Le nouveau président américain a déclaré que les mouvements assureraient la primauté américaine dans la technologie.
«À Openai, nous pensons que l’infrastructure est le destin», a déclaré Sarah Friar, directrice financière d’Openai. “[Stargate] est à peu près plus de calcul. Plus de calcul construit de meilleurs modèles. De meilleurs modèles répondent à des problèmes plus complexes et offrent plus d’avantages pour les personnes et les entreprises. »
Stargate a dominé le débat à Davos pour le reste de la semaine, dont beaucoup, notamment Elon Musk, se présentant sur son site de réseautage social X pour se demander comment le trio financerait les vastes dépenses promises.
Le FT a rapporté vendredi que Stargate n’a pas encore obtenu le financement dont elle a besoin, ne recevra aucun financement gouvernemental et ne servira qu’Openai une fois terminé. Jusqu’à présent, SoftBank et Openai ont l’intention de mettre en avant plus de 15 milliards de dollars chacun pour le projet, dans l’espoir d’augmenter une combinaison de capitaux propres de leurs bailleurs de fonds existants pour financer Stargate.
La nouvelle entreprise a également été considérée comme la dernière preuve d’une fissure dans la relation entre Altman et le PDG de Microsoft Satya Nadella et sa principale exécutive de l’IA Mustafa Suleyman, l’ancienne cofondatrice DeepMind qui a quitté sa propre startup et a rejoint Microsoft au début de l’année dernière.
“Les tensions qui ont fait surface entre Mustafa Suleyman et Sam Altman à Davos l’année dernière n’étaient que le début”, a déclaré le directeur général de Salesforce, Marc Benioff, qui rivalise avec Microsoft pour vendre des agents alimentés par l’IA aux entreprises.
«Microsoft accélère désormais son propre développement d’IA. . . Ce modèle reflète l’histoire de Microsoft avec ses «partenaires», a ajouté Benioff. «Cela pourrait marquer le début de la fin de la relation, ce qui rend l’Openai critique pour s’étendre rapidement à d’autres plates-formes.»
“Marc n’a aucune idée de ce dont il parle”, a déclaré le porte-parole de Microsoft, Frank Shaw.
Microsoft a investi près de 14 milliards de dollars dans OpenAI depuis 2019 et en retour a négocié des droits sur sa propriété intellectuelle et être son fournisseur exclusif de cloud computing. Mais ce dernier accord a été résilié aux côtés de l’annonce de Stargate.
À Davos, Nadella a également mis le doute sur les engagements de dépenses de Stargate et a vanté les 80 milliards de dollars de dépenses en capital de Microsoft.
“Tout ce que je sais, c’est que je suis bon pour mes 80 milliards de dollars”, a-t-il dit, plus tard réponse à Musk sur la plate-forme de médias sociaux X: “Et tout cet argent ne concerne pas l’hyping AI, mais consiste à construire des choses utiles pour le monde réel!”
Stargate n’est que le dernier exemple d’une course aux armements d’infrastructure pour les centres de données aux États-Unis alors qu’il se prépare pour la prochaine étape du boom économique de l’IA. Le XAI de Musk a construit un supercalculateur appelé «Colossus» contenant 100 000 puces Nvidia interconnectées en seulement trois mois l’année dernière et s’est engagé à étendre le numéro 10.
BlackRock et Microsoft se préparent à lancer un fonds d’investissement en IA de 30 milliards de dollars pour construire des centres de données et des projets énergétiques pour répondre aux demandes croissantes provenant du secteur technologique. Vendredi, le Meta-chef Mark Zuckerberg a déclaré que la société dépenserait entre 60 milliards de dollars à 65 milliards de dollars pour les infrastructures capitales cette année tout en élargissant ses équipes d’IA.
«J’ai eu des réunions clients sans arrêt, dans tous les secteurs. Je ne pense pas qu’il y ait un seul PDG à qui j’ai parlé qui ne sait pas qu’ils doivent déployer l’IA », a déclaré le frère d’Openai. «L’IA n’est pas seulement à l’ordre du jour; C’est l’ordre du jour. Ce n’est plus seulement un concept abstrait ou une vision futuriste. C’est ici.
Reportage supplémentaire de Harriet Agnew à Davos