Un ancien cadre de Facebook, un chercheur en IA, un entrepreneur en technologie et un informaticien sont les quatre faiseurs de l’OpenAI qui ont plongé la start-up dans la crise la semaine dernière en limogeant son PDG.
La décision abrupte des membres du conseil d’administration Adam D’Angelo, Helen Toner, Tasha McCauley et Ilya Sutskever d’évincer Sam Altman a déclenché une chaîne d’événements dramatiques et a alimenté les spéculations sur leurs motivations et leurs compétences pour gérer ce qui est devenu le plus en vue du monde. Démarrage de l’IA.
OpenAI est structuré de manière non conventionnelle comme un partenariat entre une filiale de recherche à but non lucratif et une filiale à but lucratif. Le conseil d’administration supervise les deux, mais son mandat principal est de rechercher une intelligence artificielle « qui soit sûre et profite à toute l’humanité » plutôt que de veiller aux intérêts des investisseurs.
La manière dont ces quatre personnes en sont venues à détenir les clés de l’orientation future de la principale société d’IA reste floue. Ni les investisseurs ni le personnel n’ont pu expliquer comment le conseil d’administration réduit, qui représente la moitié de sa taille en 2021, est nommé.
Parmi les employés d’OpenAI, le choc suscité par le licenciement dramatique d’Altman s’est transformé en frustration, le conseil d’administration n’offrant aucune raison spécifique pour sa décision, au-delà du fait qu’il n’avait pas été « toujours franc ».
Elon Musk, le propriétaire franc de X et ancien membre du conseil d’administration d’OpenAI qui a contribué au lancement de la start-up en 2015, a appelé l’un des quatre à « dire quelque chose » pour s’expliquer, tandis que Vinod Khosla, l’un des premiers investisseurs, a déclaré que le conseil d’administration avait « faire reculer la promesse de l’intelligence artificielle », dans un article d’opinion paru lundi dans The Information.
Certaines personnes qui connaissent les membres du conseil d’administration ont déclaré qu’ils étaient intelligents, réfléchis et bien placés pour remplir leur mandat de servir l’humanité. D’autres ont souligné leur manque relatif d’expérience en entreprise, la mauvaise gestion de l’annonce de vendredi et ses conséquences.
Une personne qui a travaillé avec D’Angelo sur le site de questions-réponses Quora qu’il dirige en tant que directeur général a déclaré qu’il était un mauvais communicateur et que le manque de communication du conseil d’administration n’était « pas surprenant ».
D’Angelo a exprimé par le passé ses inquiétudes quant aux dangers des nouvelles technologies. Lorsqu’il a rejoint le conseil d’administration d’OpenAI en 2018, il a déclaré que le travail sur l’IA « en gardant la sécurité à l’esprit » était « à la fois important et sous-estimé ».
Écrivant en 2017 alors qu’il travaillait chez Y Combinator, qui a investi dans Quora, Altman a déclaré que D’Angelo était « l’un des rares noms que les gens mentionnent systématiquement lorsqu’ils discutent des PDG les plus intelligents de la Silicon Valley », tandis que Yishan Wong, l’ancien chef de Reddit, a déclaré. D’Angelo était « ridiculement rationnel ».
Jeffrey Ding, chercheur en IA à l’Université George Washington, a déclaré que Toner, qu’il connaît depuis 2018, était lucide quant aux risques et aux opportunités de l’IA générative.
Elle a « un très bon jugement » et la « rare capacité de parler aux deux côtés des débats sur l’IA et la gouvernance de l’IA », a-t-il déclaré, ajoutant que Toner était « très lucide » et ouverte aux « nouvelles idées, révisant ses opinions et être réceptif aux commentaires ».
Toner et Ding ont co-écrit un article en juin selon lequel éviter de réglementer l’IA parce que des règles plus strictes « permettraient à la Chine d’avancer » n’était « pas un bon argument ».
En mai, Toner a mis en garde contre une dépendance excessive aux chatbots d’IA, affirmant qu’il y avait « encore beaucoup de choses que nous ignorons » à leur sujet, et a déclaré en octobre que le gouvernement américain devrait « prendre des mesures pour protéger les citoyens contre les méfaits et les risques de l’IA, tout en promouvoir également l’innovation et exploiter les avantages de la technologie ».
On en sait moins sur McCauley, qui, comme Toner, est partisan d’un altruisme efficace – un mouvement intellectuel qui a mis en garde contre les risques que l’IA pourrait poser pour l’humanité.
Toby Ord, qui siège au conseil consultatif du groupe de recherche du Centre pour la gouvernance de l’IA aux côtés de Toner et McCauley, a déclaré que tous deux étaient « très intelligents, réfléchis et moralement sérieux, avec une connaissance approfondie des risques et de la gouvernance de l’IA ».
Ils sont « exactement le genre de personnes que l’on souhaiterait avoir au conseil d’administration d’une organisation à but non lucratif chargée de superviser une filiale à but lucratif qui tente de développer l’intelligence artificielle générale », a-t-il ajouté.
McCauley était « l’une des personnes les plus réfléchies avec qui j’ai jamais travaillé. Même en temps de crise, elle fait preuve d’un sang-froid et d’un calme remarquables », a déclaré une personne qui a travaillé en étroite collaboration avec elle. « J’ai beaucoup de mal à l’imaginer agir de manière imprudente ou imprudente. »
Les avis sont partagés sur Sutskever, co-fondateur d’OpenAI et co-auteur de l’article formatif qui a lancé l’ère du deep learning.
Les critiques ont critiqué l’informaticien pour son rôle dans le coup d’État contre Altman. D’autres ont souligné l’accent mis par Sutskever sur la sécurité de l’IA en tant que chef d’une équipe dédiée au contrôle d’une IA de plus en plus avancée. Cela était en contradiction avec la culture d’innovation agitée incarnée par Altman, selon des personnes proches du dossier.
« Si vous valorisez l’intelligence avant toutes les autres qualités humaines, vous allez passer un mauvais moment », a écrit Sutskever dans un article X en octobre.
Musk a écrit sur X que Sutskever avait « une bonne boussole morale », ajoutant qu’il « ne prendrait pas de mesures aussi drastiques à moins qu’il ne le juge absolument nécessaire ». Sutskever s’est depuis réaligné sur Altman, affirmant qu’il « profondément [regretted] ma participation aux actions du conseil d’administration ».
Certains investisseurs majeurs de la société à but lucratif ont tenté de pousser le conseil d’administration à réintégrer Altman, avec une possibilité de poursuites judiciaires, selon plusieurs personnes connaissant le sujet.
Avec Sutskever désormais derrière Altman, ils réfléchissent lequel des trois administrateurs restants est le plus susceptible de changer. De nombreux investisseurs et employés ont considéré le fondateur de Quora, D’Angelo, comme étant le plus probable.
« Il est plus logique de s’attaquer en premier à Adam D’Angelo », a déclaré une personne d’un fonds de capital-risque investi dans OpenAI. « Il a une réputation dans la Silicon Valley, il n’en a pas besoin. »