L’écrivain est historien, philosophe et auteur
Alors que la révolution de l’intelligence artificielle s’accélère, nous sommes bombardés à la fois de visions utopiques et de prophéties apocalyptiques. Il est difficile d’évaluer l’ampleur de la menace, car nous avons été conditionnés à craindre le mauvais scénario. La science-fiction nous a mis en garde à plusieurs reprises contre la rébellion des grands robots. Dans de nombreux romans et films de science-fiction, comme Le Terminateur et Le Matrice — Les IA et les robots décident de prendre le contrôle du monde, de se rebeller contre leurs maîtres humains et d’asservir ou de détruire l’humanité. Il est extrêmement peu probable qu’une telle chose se produise dans un avenir proche. La technologie n’est tout simplement pas là. À l’heure actuelle, les IA sont des savants idiots. Ils maîtrisent peut-être certains domaines restreints, comme jouer aux échecs, plier des protéines ou composer des textes, mais ils n’ont pas l’intelligence générale nécessaire pour des activités très complexes comme construire une armée de robots et prendre le contrôle d’un pays. Malheureusement, l’improbabilité d’une rébellion des grands robots ne signifie pas qu’il n’y a rien à craindre. Car ce ne sont pas les robots tueurs qui devraient nous inquiéter ; ce sont plutôt les bureaucrates du numérique. Kafka Le procès est un meilleur guide de la dystopie de l’IA que Le terminateur.
Les humains ont été conditionnés par des millions d’années d’évolution à redouter les prédateurs violents comme celui représenté dans Le terminateur. Il nous est beaucoup plus difficile de comprendre les menaces bureaucratiques, car la bureaucratie est un développement très nouveau dans l’évolution des mammifères et même de l’humanité. Nos esprits sont habitués à craindre la mort causée par un tigre, mais pas la mort par un document.
La bureaucratie a commencé à se développer il y a seulement 5 000 ans environ, après l’invention de l’écriture dans l’ancienne Mésopotamie. Mais la bureaucratie a rapidement modifié les sociétés humaines de manière radicale et inattendue. Considérons, par exemple, l’impact que les documents écrits et les bureaucrates qui les utilisent ont eu sur le sens de la propriété. Avant l’invention des documents écrits, la propriété reposait sur le consensus communautaire. Si vous « possédiez » un champ, cela signifiait que vos voisins étaient d’accord que c’était votre champ, tant par leurs paroles que par leurs actes. Ils n’ont pas construit de résidence sur ce champ et n’ont pas récolté ses produits, à moins que vous ne le leur permettiez.
La nature communautaire de la propriété limitait les droits de propriété individuels. Par exemple, vos voisins ont peut-être convenu que vous aviez le droit exclusif de cultiver un champ particulier, mais ils n’ont pas reconnu votre droit de le vendre à des étrangers. Dans le même temps, tant que la propriété restait une question de consensus communautaire, elle entravait également la capacité des autorités centrales éloignées à contrôler la terre. En l’absence de documents écrits et de bureaucraties élaborées, aucun roi ne pouvait se rappeler qui possédait tel champ dans des centaines de villages isolés. Les rois avaient donc du mal à augmenter les impôts, ce qui les empêchait d’entretenir des armées et des forces de police.
Puis l’écriture a été inventée, suivie par la création d’archives et de bureaucraties. La technologie était au début très simple. Les anciens bureaucrates mésopotamiens utilisaient de petits bâtons pour imprimer des signes sur des tablettes d’argile – qui n’étaient en fait que des morceaux de boue. Mais dans le contexte des nouveaux systèmes bureaucratiques, ces morceaux de boue ont révolutionné le sens de la propriété. Soudain, posséder un champ signifiait qu’il était écrit sur une tablette d’argile que vous étiez propriétaire de ce champ. Si vos voisins y cueillaient des fruits depuis des années et qu’aucun d’entre eux n’avait jamais déclaré que ce terrain vous appartenait, mais que vous parveniez néanmoins à produire un morceau de boue officiel indiquant que vous en étiez propriétaire, vous pourriez faire valoir votre réclamation devant le tribunal. À l’inverse, si la communauté locale reconnaît que vous êtes propriétaire d’un champ, mais qu’aucun document ne lui donne un cachet officiel d’approbation, alors vous n’en êtes pas propriétaire. La même chose est encore vraie aujourd’hui, sauf que nos documents cruciaux sont écrits sur des morceaux de papier ou des copeaux de silicium plutôt que sur de l’argile.
Une fois que la propriété est devenue une question de documents écrits plutôt que de consentement communal, les gens ont pu commencer à vendre leurs champs sans demander la permission aux voisins. Pour vendre un champ, vous venez de transférer la tablette d’argile cruciale à quelqu’un d’autre. Mais cela signifiait également que la propriété pouvait désormais être déterminée par la bureaucratie lointaine qui produisait les documents pertinents, et peut-être les conservait dans des archives centrales. La voie était ouverte pour lever des impôts, payer des armées et établir de grands États centralisés. Le document écrit a changé la façon dont le pouvoir circulait dans le monde et a donné un énorme pouvoir aux bureaucrates tels que les collecteurs d’impôts, les payeurs, les comptables, les archivistes et les avocats. Ils sont devenus les plombiers du réseau d’information qui, pour le meilleur ou pour le pire, contrôlent le mouvement des impôts, des paiements et même des soldats en manipulant les documents, les formulaires, les statuts et les autres leviers bureaucratiques.
C’est ce pouvoir que l’IA s’apprête désormais à conquérir. La bureaucratie est un environnement artificiel dans lequel la maîtrise d’un domaine restreint suffit à exercer un impact énorme sur le monde au sens large, en manipulant le flux d’informations. Si vous lancez une IA actuelle dans le monde désordonné et non structuré, elle ne pourra probablement pas accomplir grand-chose – et ne sera certainement pas capable de lever une armée de robots. Mais c’est comme jeter un avocat d’entreprise dans une savane désordonnée et non structurée. Là-bas, les capacités de l’avocat ne veulent rien dire et ne font pas le poids face à un éléphant ou à un lion. Mais si l’on construit d’abord un système bureaucratique et que l’on l’impose à la savane, l’avocat devient bien plus puissant que tous les lions du monde réunis. De nos jours, la survie même des lions dépend des avocats qui composent et déplacent les documents dans des bureaucraties labyrinthiques. Surtout, dans ce labyrinthe, l’IA est susceptible de devenir bien plus puissante que n’importe quel avocat humain.
Dans les années à venir, des millions de bureaucrates de l’IA prendront de plus en plus de décisions concernant la vie non seulement des lions, mais aussi des humains. Les banquiers d’IA décideront s’ils doivent vous accorder un prêt. Les IA du système éducatif décideront de vous accepter ou non à l’université. Les IA dans les entreprises décideront si elles doivent vous donner un emploi. Les IA du système judiciaire décideront de vous envoyer ou non en prison. Les IA militaires décideront de bombarder ou non votre maison. Ces IA ne sont pas forcément mauvaises. Ils pourraient bien rendre les systèmes beaucoup plus efficaces et encore plus équitables. Ils pourraient nous fournir des soins de santé, une éducation, une justice et une sécurité supérieurs. Mais si les choses tournent mal, les résultats pourraient être désastreux. Et dans certains domaines, les choses ont déjà mal tourné.
L’exemple le plus parlant est peut-être celui des algorithmes des réseaux sociaux. Ces IA primitives ont déjà remodelé le monde, exerçant une énorme influence sur la société humaine. Les algorithmes d’entreprises comme Facebook, X, YouTube et TikTok ont été chargés d’un objectif très précis, parfait pour les savants idiots : accroître l’engagement des utilisateurs. Plus les utilisateurs passent de temps sur les réseaux sociaux, plus les entreprises gagnent d’argent. En quête d’engagement des utilisateurs, les algorithmes ont fait une découverte dangereuse. En expérimentant sur des millions de cobayes humains, les algorithmes des réseaux sociaux ont découvert que l’avidité, la haine et la peur augmentent l’engagement des utilisateurs. Si vous appuyez sur le bouton de l’avidité, de la haine ou de la peur dans l’esprit d’un humain, vous attirez son attention et le gardez collé à l’écran. Les algorithmes ont donc commencé à propager délibérément l’avidité, la haine et la peur. C’est l’une des principales raisons de l’épidémie actuelle de théories du complot, de fausses nouvelles et de troubles sociaux qui mine les sociétés du monde entier.
Les algorithmes des réseaux sociaux sont des IA extrêmement limitées qui ne peuvent survivre dans la savane ou orchestrer la rébellion des grands robots. Mais au sein de la structure bureaucratique des plateformes de médias sociaux, ces savants idiots exercent un pouvoir énorme, qui était autrefois l’apanage des êtres humains. Pendant des siècles, les rédacteurs humains ont décidé ce qu’il fallait inclure dans les informations diffusées à la radio et à la télévision et ce qu’il fallait mettre en première page des journaux, façonnant ainsi le débat public. Cela a fait des éditeurs des personnages puissants. Jean-Paul Marat a marqué le cours de la Révolution française en éditant le journal influent L’Ami du Peuple. Eduard Bernstein a façonné la pensée sociale-démocrate moderne en éditant Le Démocrate Sozial. Le poste le plus important occupé par Vladimir Lénine avant de devenir dictateur soviétique était celui de rédacteur en chef de Iskra. Benito Mussolini a acquis une renommée et une influence en tant que rédacteur en chef du journal de droite incendiaire Le Peuple d’Italie. Il est intéressant de noter que l’un des premiers emplois au monde à être automatisé par l’IA n’a pas été celui de chauffeur de taxi ou d’ouvrier du textile, mais celui de rédacteur en chef. Le travail qui était autrefois accompli par Lénine et Mussolini peut désormais être accompli par les IA.
Les ravages causés par les éditeurs algorithmiques sur les sociétés humaines sont un signal d’alarme. Le monde humain est un réseau de multiples bureaucraties, dans lequel les IA peuvent acquérir un pouvoir énorme même si elles sont totalement incapables de monter la grande rébellion des robots. Pourquoi se rebeller contre un système si l’on peut le reprendre de l’intérieur ?