Débloquez gratuitement l’Editor’s Digest
Roula Khalaf, rédactrice en chef du FT, sélectionne ses histoires préférées dans cette newsletter hebdomadaire.
John Schulman, l’un des cofondateurs d’OpenAI et l’un des architectes clés de son chatbot ChatGPT, a quitté son poste pour rejoindre son principal rival Anthropic, devenant ainsi le dernier d’une série de personnalités de haut rang à quitter la principale société d’intelligence artificielle au cours des derniers mois.
Schulman va travailler sur l’alignement (la recherche visant à garantir que les systèmes d’IA soient conformes aux valeurs humaines) chez Anthropic, une start-up fondée en 2021 par un groupe d’anciens chercheurs d’OpenAI qui se présente comme une entreprise qui place « la sécurité au cœur de ses préoccupations ». Lundi également, le président d’OpenAI, Greg Brockman, a annoncé sur le site de médias sociaux X qu’il prendrait le reste de l’année sabbatique.
Le départ de Schulman fait suite à celui d’Ilya Sutskever, un autre membre du groupe fondateur de 11 personnes de l’entreprise et son ancien scientifique en chef, ainsi que d’autres membres de son équipe.
« Ce choix découle de mon désir d’approfondir ma concentration sur l’alignement de l’IA et de commencer un nouveau chapitre de ma carrière où je peux revenir au travail technique pratique, aux côtés de personnes profondément engagées dans les sujets qui m’intéressent le plus », a déclaré Schulman dans une note à ses collègues lundi.
« Pour être clair, je ne pars pas à cause d’un manque de soutien pour la recherche sur l’alignement chez OpenAI. Au contraire, les dirigeants de l’entreprise se sont fortement engagés à investir dans ce domaine », a-t-il ajouté.
Brockman a déclaré sur X qu’il prenait un congé sabbatique : « C’est la première fois que je me détends depuis que j’ai cofondé OpenAI il y a 9 ans. La mission est loin d’être achevée ; nous avons encore une IA sûre à construire », a-t-il écrit, faisant référence à l’intelligence artificielle générale, ou à l’IA qui peut égaler ou surpasser les capacités cognitives d’un humain.
Ces changements, rapportés pour la première fois par The Information, font suite à une période tumultueuse pour l’entreprise de San Francisco. OpenAI a atteint une valorisation de 86 milliards de dollars depuis le lancement de ChatGPT en novembre 2022 et a déployé une série de chatbots capables d’effectuer des tâches de plus en plus complexes.
L’entreprise a été critiquée pour le rythme de développement de son intelligence artificielle et l’orientation de ses recherches. Ces inquiétudes ont débordé lors d’une crise au sein du conseil d’administration en novembre dernier, au cours de laquelle Brockman et le directeur général Sam Altman ont été évincés.
Les deux hommes ont repris leurs fonctions dans les cinq jours, à la suite d’une campagne menée par les employés et les investisseurs. Les administrateurs qui ont voté pour la révocation d’Altman parce qu’il n’était pas « constamment franc » ont depuis été remplacés, le directeur général de Quora, Adam D’Angelo, étant le seul administrateur à être resté en poste pendant la crise.
Toutefois, certaines des préoccupations soulevées en novembre ont été reprises par d’anciens employés au cours des mois qui ont suivi.
Elon Musk, qui a contribué au lancement d’OpenAI mais a quitté le conseil d’administration en 2018 après un conflit avec Altman, a déposé lundi une plainte alléguant qu’OpenAI et son directeur général avaient renié une mission au profit de l’humanité lorsqu’ils ont conclu un partenariat commercial avec Microsoft, qui a engagé 13 milliards de dollars dans OpenAI depuis 2019.
Plusieurs autres cadres dirigeants ont quitté l’entreprise pour poursuivre leurs propres projets, certains d’entre eux critiquant l’approche d’OpenAI. Jan Leike, un membre éminent de l’équipe de « superalignement » axée sur la sécurité de Sutskever, est parti en mai et a critiqué les efforts de l’entreprise pour garantir que l’IA puisse être développée et déployée de manière responsable.
« Au cours des dernières années, la culture et les processus de sécurité ont été relégués au second plan par rapport aux produits brillants », a écrit Leike, qui a également rejoint Anthropic, dans un article sur X.
Andrej Karpathy, autre membre fondateur d’OpenAI en 2015, est parti en février pour travailler sur son propre projet d’IA.
En réponse au départ de Schulman, OpenAI a déclaré : « Nous sommes reconnaissants envers John pour ses contributions en tant que membre fondateur de l’équipe d’OpenAI et pour ses efforts dévoués dans l’avancement de la recherche sur l’alignement. Sa passion et son travail acharné ont établi une base solide qui inspirera et soutiendra les innovations futures d’OpenAI et du domaine au sens large. »