Intelligence artificielle (IA) librement accessible où tout le monde peut voir sous le capot. C’était l’idéal pour lequel un nouveau club a été fondé à San Francisco en 2015 : OpenAI, un laboratoire d’IA à but non lucratif.
“Tout ce que le groupe développe sera accessible à tous”, a déclaré le co-fondateur Sam Altman à l’époque au journaliste du magazine tech Steven Levy Filaire. Les fondateurs ont présenté le laboratoire comme une association à but non lucratif avec une mission : lutter contre les abus d’IA. Altman : “Parce que nous ne sommes pas une entreprise à but lucratif comme Google, nous pouvons nous concentrer sur autre chose que l’enrichissement de nos actionnaires, ce que nous pensons être le meilleur pour l’avenir de l’humanité.”
Sept ans plus tard, OpenAI est le laboratoire d’IA le plus important au monde. “Nous avons d’abord eu Internet. Puis vint l’iPhone. Maintenant, il y a ChatGPT », a tweeté Alexander Klöpping début décembre à propos de ChatGPT, le chatbot OpenAI lancé fin novembre. Et il n’est pas le seul à voir l’introduction de ce modèle linguistique comme un événement majeur.
Le monde entier s’étonne du système d’IA qui écrit un essai sur la crise des missiles de Cuba ou un épisode d’une sitcom avec la plus grande facilité. Il répond sans effort à toutes sortes de questions, y compris sur lui-même, dans un langage humain apparemment naturel. Selon Le New York Times ChatGPT pourrait être le successeur des moteurs de recherche. En plus d’offrir des suggestions de cadeaux de Noël, il peut “fournir des informations dans des phrases claires et simples, plutôt qu’une liste de liens Internet, et expliquer les concepts d’une manière que les gens peuvent facilement comprendre”.
Lire aussi : Pouvez-vous laisser ce chatbot super intelligent faire vos devoirs et que remarque l’enseignant ?
En une semaine, ChatGPT comptait déjà un million d’utilisateurs. Et c’est la deuxième fois en moins d’un an qu’une application d’OpenAI fait un carton. Parce qu’en été, il y avait le battage médiatique autour du générateur d’images révolutionnaire DALL-E 2, avec lequel n’importe qui peut créer de l’« art » instantané. Le système, dont le nom est un clin d’œil à Salvador Dalí, n’a pas peur d’une commande comme “Dessine un cheval sur la lune dans le style d’Andy Warhol”, mais peut également générer des images réalistes qui ressemblent à des photographies.
OpenAI a été fondée par un groupe de riches investisseurs de la Silicon Valley, qui ont investi collectivement plus d’un milliard de dollars dans le laboratoire. Parmi eux : Elon Musk (Tesla, Space X), Sam Altman de Y Combinator (l’accélérateur de startups d’Airbnb et DropBox, entre autres) et le fondateur de PayPal, Peter Thiel.
“Je pense que la meilleure défense contre l’utilisation abusive de l’IA est de permettre au plus grand nombre de personnes d’utiliser l’IA”, a déclaré Musk dans l’article du magazine technologique susmentionné. Filaire. “Si tout le monde a le pouvoir de l’IA, il ne peut y avoir de superpuissance de l’IA chez un individu ou un petit groupe de personnes.”
Selon le site OpenAI l’objectif est toujours de “faire en sorte que l’Intelligence Générale Artificielle profite à toute l’humanité”. Mais dans la mesure où cette mission a toujours été sincère, les critiques disent qu’il en reste peu.
Idéaux perdus
En 2019, la structure à but non lucratif d’OpenAI a été échangée contre un modèle hybride, dans lequel une société commerciale serait désormais gérée à partir de l’organisation à but non lucratif. Cette même année, Microsoft investit un milliard de dollars dans OpenAI et obtient la licence exclusive du modèle de langage GPT3, le prédécesseur de ChatGPT.
“Je regarde OpenAI avec un mélange d’admiration et d’inquiétude”, déclare Jelle Zuidema, chercheur en technologie linguistique (UvA). « Il est clair qu’il y a de très bons techniciens qui y travaillent et qu’il existe une culture d’entreprise dans laquelle de nouvelles idées créatives peuvent s’épanouir. Mais où sont les idéaux avec lesquels ils ont été fondés : une technologie ouverte, un contrepoids à la Big Tech ? Ils sont difficiles à trouver, constate Zuidema. « La technologie sous-jacente à leurs produits fait l’objet d’un examen très limité par des scientifiques indépendants. Et GPT3 est financé et commercialisé par le géant de la technologie Microsoft.
OpenAI n’est pas ce qu’il semble, a noté Karen Hao en 2020 Examen de la technologie MIT. Le journaliste a été autorisé à visiter le laboratoire AI, situé dans un bâtiment historique de San Francisco qui dit PIONEER BUILDING en grosses lettres. L’usine de camions Pioneer était autrefois située ici, maintenant l’IA est lancée dans des halls avec des noms tels que “A Space Odyssey”. OpenAI partage le bâtiment et la cantine pionniers avec un autre laboratoire technologique : Neuralink, la société d’Elon Musk qui développe des puces cérébrales.
“Ce que l’entreprise adopte publiquement est incompatible avec la façon dont elle fonctionne à huis clos”, a écrit Hao. “Au fil du temps, il a permis un développement dans lequel ses idéaux fondateurs de transparence, d’ouverture et de collaboration ont été érodés par une concurrence féroce et une pression croissante pour trouver de plus en plus de financements.”
Lire aussi : Si l’ordinateur s’améliore avec le langage que nous
« Qu’est-ce qui est ouvert à propos d’OpenAI ? », demande rhétoriquement la philosophe de la technologie Marleen Stikker, directrice de De Waag. „ Le nom suggère qu’il s’agit de connaissances collectives, mais ce n’est pas le cas. Le logiciel et les modèles ne sont pas ouverts à la recherche ou à la réutilisation. Les scientifiques ne peuvent pas en faire grand-chose, car les systèmes sont trop grands.
Les idéaux promus par les fondateurs semblent en contradiction avec les autres ambitions du laboratoire d’IA. Par exemple, le développement de Large Language Models (LLMs), les modèles de langage géants tels que ChatGPT qui ont « lu » des millions de textes et peuvent effectuer les tâches linguistiques les plus diverses sur la base de ces connaissances, est extrêmement coûteux. Un tour d’entraînement du GPT3 coûte 12 millions de dollars, a calculé un entrepreneur technologique basé sur les informations de consommation d’énergie du modèle de langage d’OpenAI. Il faut donc beaucoup d’argent aux nouveaux investisseurs pour rester à la pointe des LLM, ce qui rend difficile de rester une organisation à but non lucratif.
Trop gros pour être contrôlé
De plus, la tendance à l’essor des LLM est difficile à concilier avec la transparence. L’augmentation de l’échelle permet aux modèles de mieux fonctionner – plus ils lisent de texte et plus ils ont de puissance de calcul, mieux ils deviennent – mais cela nuit à la transparence : une base de données de millions de textes est trop volumineuse pour vérifier les inexactitudes et les biais.
Et puis il y a l’ambition d’OpenAI d’être le premier à réaliser l”AGI’ : Artificial General Intelligence, ou IA capable d’effectuer les mêmes tâches intellectuelles qu’un cerveau humain. À cet égard, le laboratoire est en concurrence avec d’autres entreprises technologiques et, selon les critiques, cette course fait obstacle au développement sûr et responsable de l’IA. “Si les entreprises savent que tout le monde se précipite vers la dernière IA à une vitesse périlleuse”, a déclaré Miles Brundage, alors doctorant. en 2015 contre Wired“alors ils seront peut-être moins enclins à poser des garanties pour une IA sûre.”
Brundage a rejoint OpenIA en 2018 – et il n’est pas le seul homme blanc à y travailler. Un manque de diversité s’applique à l’ensemble de l’industrie technologique, mais dans le cas d’OpenAI, il est extrêmement difficile de concilier avec la prétention de vouloir faire de l’IA pour toute l’humanité.
“Même si OpenAI avait les meilleures intentions”, déclare le professeur Tamar Sharon, qui dirige le groupe de recherche interdisciplinaire Numérisation et société à l’Université Radboud, “ils ne représentent toujours pas l’humanité en aucune façon. OpenAI sert l’agenda de leurs investisseurs : des milliardaires de la Silicon Valley qui font de la technologie la solution à tous les problèmes de l’humanité. Leur propre technologie, c’est-à-dire celle qu’ils nous vendent.
Lire aussi : Restez vigilant car la frontière entre le réel et l’IA s’estompe
Les idéaux d’OpenAI sont incroyables, dit Sharon. “OpenAI a été fondée par un groupe de milliardaires à partir de leur idéologie de Altruisme efficace, EA, qui comprend également le crypto milliardaire déchu Sam Bankman-Fried. Le mouvement EA veut sauver l’humanité d’une apocalypse où une machine dotée d’une intelligence humaine détruit l’humanité.
Sharon s’inquiète de l’influence de ces riches partisans de l’altruisme efficace sur l’IA. “Ils parlent de”IA bénéfique‘ qui pourrait remplacer le travail humain à l’avenir, mais pour l’instant, une grande partie de l’IA est alimentée par le travail humain dans les pays à bas salaires : des dizaines de milliers de travailleurs sous-payés fouillant dans les ensembles de données. Et les grands modèles de langage comme ChatGPT ont une énorme empreinte écologique : ils consomment de l’énergie. La tendance actuelle dans le domaine de l’IA est de rendre ces LLM de plus en plus gros, car cela les rend plus performants. Ce que cela signifie pour la planète n’est pas du tout clair bénéfique pour l’humanité. »
Savoir collectif
Le modèle de revenus d’OpenAI devient également clair. Le monde peut apprendre à connaître DALL-E 2 et ChatGPT gratuitement, mais après cela, nous devons payer pour cela. Lorsque vous n’avez plus de crédits gratuits, vous devez en acheter de nouveaux pour continuer à utiliser l’application. Le laboratoire d’IA gagnera également de l’argent auprès d’autres entreprises technologiques qui souhaitent créer des applications avec la technologie OpenAI. Le mois dernier, une présentation divulguée aux investisseurs a révélé qu’OpenAI s’attend à générer 200 millions de dollars de revenus d’ici 2023. Et en 2024 un milliard.
Selon Marleen Stikker, les idéaux d’OpenAI ont été “un écran de fumée” pour les intérêts commerciaux des investisseurs dès le départ. Le philosophe de la technologie n’aime pas placer le destin de l’humanité entre les mains des milliardaires de la Silicon Valley. « Faites attention quand ils parlent d’« humanité », car ils décident eux-mêmes de ce qu’ils entendent par là. Habituellement, cela ne signifie pas l’humanité ici et maintenant, mais celle de l’avenir, telle qu’ils l’envisagent eux-mêmes.