\n<\/p>\n
Le chaos de la direction chez OpenAI, d\u00e9veloppeur de ChatGPT, semble s’\u00eatre apais\u00e9 pour le moment, mais de nombreux points restent flous. Surtout, la startup doit d\u00e9sormais se poser la question de savoir si sa mission \u00e9thique est r\u00e9ellement compatible avec la structure de l\u2019entreprise.<\/p>\n
\u2022 La mission d’OpenAI se concentre sur les int\u00e9r\u00eats de toute l’humanit\u00e9
\u2022 Le PDG Sam Altman est probablement plus ax\u00e9 sur le profit
\u2022 La structure de l’entreprise conduit in\u00e9vitablement \u00e0 des tensions<\/p>\n
La startup d’IA OpenAI a connu une p\u00e9riode mouvement\u00e9e apr\u00e8s que le patron et co-fondateur Sam Altman ait \u00e9t\u00e9 \u00e9tonnamment expuls\u00e9 par le conseil d’administration, puis ramen\u00e9 quelques jours plus tard. Au lieu d\u2019Altman, la plupart des membres du conseil d\u2019administration de l\u2019\u00e9poque ne font plus partie d\u2019OpenAI. Cependant, on ne sait toujours pas exactement ce qui a pouss\u00e9 le conseil d\u2019administration \u00e0 d\u00e9cider de licencier le patron d\u2019OpenAI. Le blog de la startup indiquait qu’Altman n’\u00e9tait “pas toujours ouvert dans sa communication avec le conseil d’administration”. [gewesen]”, ce qui a alt\u00e9r\u00e9 sa capacit\u00e9 \u00e0 assumer ses responsabilit\u00e9s”. En cons\u00e9quence, ils ont perdu confiance dans la capacit\u00e9 d’Altman \u00e0 continuer \u00e0 diriger OpenAI. On ne sait pas exactement o\u00f9 la communication n’\u00e9tait pas assez ouverte. Cependant, selon “The Information”, il y a toujours \u00eatre une enqu\u00eate formelle sur les choses qui ont conduit \u00e0 l’expulsion d’Altman.
\n<\/p>\n
Comme l’\u00e9crit Ann Skeet, directrice principale de l’\u00e9thique du leadership au Markkula Center for Applied Ethics, dans un article invit\u00e9 pour Fortune, il y a eu des tensions tout au long de l’ann\u00e9e \u00e9coul\u00e9e au sein du conseil d’administration d’OpenAI, qui comprenait Sam Altman avant le chaos du leadership. Cela pourrait peut-\u00eatre provenir du fait que Sam Altman, en tant que PDG d’OpenAI, a donn\u00e9 la priorit\u00e9 aux int\u00e9r\u00eats de la startup, tandis que le conseil d’administration s’est engag\u00e9 dans la mission \u00e9thique de l’entreprise. Ce contraste aurait pu finalement conduire \u00e0 la rupture.\n<\/p>\n
OpenAI se d\u00e9crit sur le site Web de l’entreprise comme une \u00ab soci\u00e9t\u00e9 de recherche et de fourniture d’IA \u00bb dont la \u00ab mission \u00bb est de \u00ab garantir que l’intelligence artificielle g\u00e9n\u00e9rale profite \u00e0 l’ensemble de l’humanit\u00e9 \u00bb. Selon OpenAI, le terme intelligence g\u00e9n\u00e9rale artificielle (AGI) fait r\u00e9f\u00e9rence \u00e0 \u00ab des syst\u00e8mes d\u2019IA qui sont g\u00e9n\u00e9ralement plus intelligents que les humains \u00bb. La startup d\u00e9clare \u00e9galement vouloir construire \u00ab une AGI s\u00fbre et utile \u00bb. Avec la mission formul\u00e9e, cela sugg\u00e8re que la startup privil\u00e9gie l’\u00e9thique au profit. Mais la structure de l\u2019entreprise est plut\u00f4t complexe et n\u2019est pas totalement exempte d\u2019une orientation vers le profit.
\n<\/p>\n
Selon l’entreprise, OpenAI a \u00e9t\u00e9 fond\u00e9e en 2015 en tant qu’organisation \u00e0 but non lucratif. Cependant, en 2019, une restructuration a suivi pour garantir que l’entreprise puisse \u00e9galement lever les capitaux n\u00e9cessaires pour remplir sa mission. Dans le m\u00eame temps, la mission, le leadership et la supervision de l\u2019organisation \u00e0 but non lucratif doivent \u00eatre maintenus. Cela a conduit \u00e0 la cr\u00e9ation d’OpenAI LP, un \u00ab m\u00e9lange d’une entreprise \u00e0 but lucratif et d’une entreprise \u00e0 but non lucratif que nous appelons une entreprise \u00e0 \u00ab profit plafonn\u00e9 \u00bb \u00bb, selon la startup. Cependant, l\u2019organisation d\u2019origine \u00ab OpenAI Nonprofit \u00bb continue de soutenir ce projet. En combinant une entreprise \u00e0 but lucratif et une entreprise \u00e0 but non lucratif, les bailleurs de fonds peuvent recevoir un certain retour maximum sur leur investissement dans OpenAI LP, mais tous les retours au-del\u00e0 vont \u00e0 l’organisation \u00e0 but non lucratif OpenAI. L’entreprise \u00e0 but lucratif plafonn\u00e9 est contr\u00f4l\u00e9e par le conseil d’administration, qui est cens\u00e9 penser et agir de mani\u00e8re charitable et veiller \u00e0 ce qu’OpenAI adh\u00e8re \u00e0 sa mission et respecte sa charte. D\u2019o\u00f9 la \u00ab majorit\u00e9 du conseil d\u2019administration […] ind\u00e9pendants et les administrateurs ind\u00e9pendants […] pas impliqu\u00e9 dans OpenAI”, comme indiqu\u00e9 sur le site Web d’OpenAI.\n<\/p>\n
Selon l’article invit\u00e9 d’Ann Skeet dans Fortune, le conseil d’administration d’OpenAI s’est vu d\u00e9lib\u00e9r\u00e9ment donner pour objectif et le pouvoir d’exclure les motivations de profit de l’\u00e9quation. En outre, selon “The Algorithmic Bridge”, il devrait \u00e9galement veiller \u00e0 ce que la s\u00e9curit\u00e9 et l’alignement de l’IA restent la priorit\u00e9 absolue dans la hi\u00e9rarchie des valeurs de l’entreprise – et a m\u00eame promis de d\u00e9truire OpenAI si cela devenait n\u00e9cessaire pour des raisons de s\u00e9curit\u00e9. Ainsi, alors que le conseil d’administration d’OpenAI vise \u00e0 faire passer l’humanit\u00e9 avant le profit, OpenAI est \u00e9galement dirig\u00e9 par Sam Altman, qui, selon Data Ethics, est \u00ab extr\u00eamement ax\u00e9 sur le profit \u00bb.
\n<\/p>\n
Il est \u00e9vident que ces deux aspects sont difficiles \u00e0 concilier et que des tensions sont presque in\u00e9vitables \u2013 et c\u2019\u00e9tait apparemment aussi le cas avant le r\u00e9cent scandale. “Des sources me disent que l’orientation vers le profit de l’entreprise sous Altman et la vitesse de d\u00e9veloppement, qui pourrait \u00eatre consid\u00e9r\u00e9e comme trop risqu\u00e9e, et le c\u00f4t\u00e9 \u00e0 but non lucratif, qui pr\u00f4nait plus de s\u00e9curit\u00e9 et de prudence, \u00e9taient en contradiction”, a \u00e9crit la journaliste technique Kara Swisher. le licenciement d’Altman sur le service de messages courts X, anciennement Twitter. Cependant, selon Swisher, les avis divergent quant \u00e0 savoir si l’expulsion d’Altman \u00e9tait un coup d’\u00c9tat ou si c’\u00e9tait la bonne d\u00e9cision.
\n<\/p>\n
\nDes sources me disent que la direction du profit de l’entreprise sous Altman et la vitesse de d\u00e9veloppement, qui pourrait \u00eatre consid\u00e9r\u00e9e comme trop risqu\u00e9e, et le c\u00f4t\u00e9 \u00e0 but non lucratif d\u00e9di\u00e9 \u00e0 plus de s\u00e9curit\u00e9 et de prudence \u00e9taient en contradiction. Une personne du c\u00f4t\u00e9 de Sam a qualifi\u00e9 cela de \u00ab coup d’\u00c9tat \u00bb, tandis qu’une autre a dit que c’\u00e9tait…<\/p>\n