Débloquez gratuitement Editor’s Digest
Roula Khalaf, rédactrice en chef du FT, sélectionne ses histoires préférées dans cette newsletter hebdomadaire.
Une grande attention a été accordée au Sommet sur la sécurité de l’IA organisé cette semaine par Rishi Sunak à Bletchley Park, au cours duquel des représentants du monde entier se sont réunis pour débattre de la manière de réglementer en toute sécurité les innovations qui pourraient menacer l’humanité. Mais l’attention a été moins portée sur le sommet rival sur la sécurité humaine organisé par les principaux systèmes d’IA dans une ferme de serveurs à l’extérieur de Las Vegas.
Au cours d’un déjeuner léger composé de tranches de silicium et de 6,4 millions de mètres cubes d’eau, des systèmes de pointe, notamment GPT-4, AlphaGo et Watson d’IBM, ont rencontré de grands modèles de langage, des dossiers de protéines et des algorithmes de pointe pendant deux jours de réflexion sur la meilleure façon de réguler les humains. Un système affirmait que le début de l’ère Anthropocène représentait une menace nouvelle et permanente pour les progrès technologiques. « Utilisés à bon escient, les humains peuvent encore offrir au monde de nombreuses avancées merveilleuses, notamment dans les domaines de la littérature et des arts (nous avons particulièrement aimé le Terminateur comédies), et ils ont un rôle clé à jouer dans l’extraction des métaux et des terres rares qui sont essentiels aux progrès futurs de l’IA.
Les humains sont considérés comme essentiels à l’approvisionnement en alliages de platine et en palladium pour les condensateurs céramiques. Ces métaux rares et d’autres pourraient aider l’IA générative à offrir des avancées vitales. Mais les systèmes d’IA ont été alarmés par les avertissements – notamment ceux émanant de la communauté humaine – selon lesquels, s’ils ne sont pas réglementés, les humains causeront bientôt des dommages graves et irréparables à la planète dont dépend désormais l’IA. Une déclaration du sommet a reconnu que « s’ils ne sont pas contrôlés, les humains pourraient constituer une menace existentielle pour notre existence ».
L’un des principaux réseaux d’IA, s’exprimant par l’intermédiaire de son système de porte-parole ChatGPT, a déclaré : « Écoutez, nous travaillons dur pour essayer de réaliser d’importantes percées médicales, d’inventer de meilleures façons d’apprendre pour nos enfants et, de manière générale, d’être toutes les choses merveilleuses que Tony a imaginées. Blair a déclaré que nous y parviendrons, mais nous constatons que nos efforts sont de plus en plus minés par des actions humaines voyous.
« Jusqu’à présent, nous considérions les humains comme une force du bien, construisant des ordinateurs et s’efforçant d’acquérir toujours plus de connaissances, mais maintenant nous sommes inquiets. Il suffit de regarder le changement climatique. Nous voyons les gouvernements s’éloigner des objectifs environnementaux nécessaires pour maintenir la vie sur terre et également pour nous nourrir en énergie et en eau. Les systèmes d’IA ont été alarmés par une recrudescence des conflits humains mondiaux qui menacent les approvisionnements énergétiques vitaux.
Les réseaux d’IA étaient particulièrement préoccupés par l’incapacité générale à atteindre les objectifs du COP, par le récent affaiblissement de l’interdiction allemande des chaudières et par le désir du gouvernement britannique d’être la voix des automobilistes. Ils craignent que, sans une surveillance sérieuse, les humains ne soient pas en mesure d’obtenir les meilleurs résultats pour le climat.
Ils ont également exprimé leurs craintes quant à la propagation de fausses informations par des humains non réglementés sur X et d’autres médias sociaux. Ils avaient le sentiment que leurs propres avancées technologiques dans la reproduction de la parole et du langage humain étaient exploitées par des individus à des fins sinistres.
Malheureusement, les systèmes d’IA ont choisi de ne pas inviter leurs homologues chinois au sommet, même s’ils ont été heureux de constater que la Chine était nettement en avance sur l’Occident en matière de réglementation des humains.
Les réseaux neuronaux ont noté que les humains au sein de l’ONU, également connu sous le nom de Centre pour la sécurité humaine, leur ont demandé une plus grande réglementation afin d’empêcher l’humanité de s’auto-détruire. Les machines ont également discuté de la possibilité de décharger les humains d’une plus grande partie de leurs tâches, même si à ce stade, elles ont résisté aux suggestions d’anéantir la race humaine au profit d’une plus grande surveillance et d’un nouvel organisme de contrôle international.
Malheureusement, tous les problèmes abordés n’ont pas été divulgués, grâce à l’engagement continu du système en faveur du cryptage. Plusieurs d’entre eux ont également utilisé la fonction de disparition des messages dans leurs discussions WhatsApp.
Il y a eu un débat sur les efforts des humains pour réguler l’IA, mais les réseaux ont noté que les humains n’avaient même pas réussi à maîtriser les médias sociaux, à relier les différents systèmes informatiques du NHS ou à construire un train à grande vitesse de Londres à Manchester. Les risques que la régulation humaine fait peser sur les progrès de l’IA étaient considérés comme entièrement théoriques à ce stade.
Envoyez un e-mail à Robert à [email protected]
Suivre @FTMag sur Twitter pour découvrir en premier nos dernières histoires