La raison du limogeage du PDG d’OpenAI était, entre autres, la crainte du développement d’une intelligence artificielle qui menace l’humanité, affirment les sources de l’agence de presse Reuters. Selon les fuyards, l’entreprise n’en est pas forcément très loin.
Le PDG de la société d’intelligence artificielle OpenAI, Sam Altman, est rapidement revenu à la direction de l’entreprise après avoir été licencié quelques jours plus tôt. Jaap Arriens/NurPhoto/Shutterstock
Devant le PDG d’OpenAI par Sam Altman Après les licenciements temporaires de la semaine dernière, certains chercheurs de l’organisation ont écrit une lettre au gouvernement pour l’avertir qu’OpenAI avait fait une percée dans la création d’une intelligence artificielle avancée qui pourrait menacer l’humanité.
La lettre et l’algorithme d’IA qu’elle décrit ont joué un rôle important dans le licenciement d’Altman, ont déclaré deux personnes proches du dossier. pour Reuters.
Selon des sources de Reuters, la lettre faisait partie d’une liste plus large de problèmes avec le gouvernement qui ont conduit au limogeage du PDG. En outre, le conseil d’administration s’est notamment inquiété de la manière dont Altman a dirigé l’organisation initialement à but non lucratif dans une direction encore plus commerciale et a encouragé le développement de produits commerciaux d’intelligence artificielle avant que ses sanctions ne soient connues.
Cette commercialisation a inclus, entre autres, la sortie du chatbot ChatGPT auprès du grand public et une coopération approfondie avec le principal investisseur d’OpenAI, Microsoft.
Reuters n’a pas obtenu de copie de la lettre et les personnes qui l’ont écrite n’ont pas répondu à une demande de commentaires.
OpenAI n’a pas non plus répondu à la demande de commentaires de Reuters. Cependant, des sources de Reuters ont déclaré que, interrogé par Reuters, un cadre supérieur d’OpenAI Mira Murati a envoyé une note interne aux employés commentant la lettre et l’existence d’un projet appelé Q* (prononcé « Q Star »).
OpenAI a souligné à Reuters que Murati – qui a été PDG de l’organisation du 17 au 20 Novembre – avait seulement informé les employés du prochain article de Reuters et des allégations qui y étaient formulées, et n’avait pas commenté la véracité des allégations.
Selon Reuters, certains chez OpenAI pensent que Q* pourrait constituer une avancée majeure dans l’objectif ultime de l’organisation, à savoir développer l’intelligence artificielle générale (AGI).
Selon la définition d’OpenAI, l’intelligence artificielle générale est un système autonome qui surpasse les humains dans « la grande majorité des tâches à valeur économique » – en d’autres termes, une intelligence artificielle comme celle représentée dans la science-fiction.
Un nouveau modèle développé par le projet Q* pourrait résoudre certains problèmes mathématiques s’il disposait de suffisamment de ressources, selon une source de Reuters. Bien que le modèle n’ait pu calculer que les mathématiques à l’école primaire, les chercheurs sont très optimistes quant à son avenir, selon la source. Les mathématiques en particulier constituent une faiblesse des modèles de langage génératifs actuels, car ils sont incapables de vérifier l’exactitude du contenu qu’ils produisent.
des informations Selon Altman, il avait fait allusion à cette avancée dans des commentaires qu’il avait faits lors du sommet des PDG de l’APEC la veille de son licenciement. C’est du moins ce que pensent divers employés d’OpenAI.
Après la publication de la nouvelle par Reuters Le bord dit que sa propre source anonyme a nié que le conseil d’administration ait reçu une lettre comme celle décrite et que les progrès de l’organisation dans le développement de l’intelligence artificielle n’aient pas affecté la décision du conseil de licencier Altman.
Le conseil d’administration d’OpenAI a informé Altman de son licenciement le vendredi 17 novembre. Après un week-end tumultueux, il est apparu initialement qu’Altman finirait par travailler pour Microsoft, avec environ 700 des 770 employés d’OpenAI menaçant de le suivre. Altman a été réintégré au poste de PDG le mardi 21 novembre, suite à la nomination d’un nouveau conseil d’administration.