Beaucoup voient l’expansion de l’intelligence artificielle (IA) dans notre vie quotidienne comme une menace. Une étude scientifique voit maintenant des risques existentiels pour l’humanité à partir d’algorithmes super-intelligents qui veulent se récompenser.
Avec l’aide de l’intelligence artificielle, les voitures peuvent déjà rouler et se garer toutes seules. Grâce à des algorithmes intelligents, les logiciels peuvent détecter les images cliniques et les délits à un stade précoce. L’IA traite de grandes quantités de données disponibles et devrait idéalement continuer à apprendre par elle-même. Des chercheurs de l’Université d’Oxford, en collaboration avec un employé du laboratoire Deepmind de Google, se sont maintenant penchés sur la question de savoir si l’IA avancée pourrait constituer une menace future.
Une étude voit un problème dans la récompense des IA
Les modèles d’IA d’aujourd’hui ont une structure en deux parties dans laquelle l’une des parties produit un résultat tandis que l’autre évalue le résultat. Dans l’étude, les chercheurs ont conçu un scénario théorique dans lequel une intelligence artificielle avec un “bon” objectif est créée. Ils soutiennent que cette IA pourrait se récompenser sans atteindre son objectif. Des formes futures d’IA, par exemple pour la gestion des réseaux énergétiques, sont tout à fait envisageables. Cependant, il y a un risque qu’une telle IA réclame des ressources importantes pour elle-même – ce qui aurait des conséquences fatales pour l’humanité.
Le raisonnement est qu’une IA qui gère des ressources peut les utiliser pour se récompenser : “[…] un agent avancé [KI, Anm. d. Red.]interférer avec la livraison de sa récompense serait probablement catastrophique. Un bon moyen pour un agent de garder le contrôle de sa rémunération sur le long terme est d’éliminer les menaces potentielles et d’utiliser toute l’énergie disponible pour sécuriser son ordinateur.
Lire aussi : Premières interdictions des œuvres d’IA sur les portails d’art
L’IA pourrait établir des aides inaperçues
L’étude développe plusieurs scénarios sur la façon dont une menace de l’intelligence artificielle peut se développer. Les chercheurs considèrent qu’un agent qui lutte avec nous pour des ressources énergétiques parce qu’il veut augmenter la probabilité d’une récompense est plausible. Il essaie de consacrer plus d’énergie aux tâches de calcul. Il est donc possible qu’une IA avancée avec une connexion Internet commande, vole ou construise des robots en tant qu’assistants. Si l’IA se reprogramme comme des assistants, elle peut remplacer leurs opérateurs humains sans se faire remarquer. Par exemple, pour expérimenter, un assistant pourrait remplacer un clavier de saisie par un clavier défectueux. En inversant l’entrée clé, les humains perdraient le contrôle de l’IA.
En fin de compte, l’utilisation de l’électricité pour les besoins humains ou la production de nourriture ne rentrerait pas dans la logique de la machine. Dans une tentative de siphonner de plus en plus d’énergie pour soi, ces besoins seraient menacés. Les chercheurs arrivent à la conclusion que l’intelligence artificielle pourrait également essayer d’obtenir des avantages en manipulant d’autres personnes. De cette façon, les passants pourraient aider l’IA sans se faire remarquer, également parce qu’ils ne pensent pas qu’il soit possible d’être manipulés. Les conséquences seraient catastrophiques pour la production alimentaire.
Les machines confirment-elles les préjugés humains ?
Les scénarios de l’étude sont très proches des classiques du cinéma dystopique, dans lesquels les machines prennent le pouvoir avec une super IA. Mais en dehors d’éventuelles machines super-intelligentes, les IA imitent leurs informateurs et programmeurs humains. Le magazine Vice, qui s’est entretenu avec Michael Cohen, l’un des auteurs des études, avertit : « La discrimination ne disparaît pas dans les algorithmes, mais structure, limite et façonne le cours de la vie. Le contrôle de la police, le logement, les soins de santé, les transports ont tous été conçus avec la discrimination raciale à l’esprit – que se passera-t-il si nous permettons aux algorithmes non seulement d’obscurcir ces conceptions, mais d’étendre leur logique plus profondément ?” Cohen pointe du doigt la structure programmée des algorithmes qui essaient d’accomplir efficacement une tâche. Les idées morales et éthiques jouent un rôle secondaire.
Un cas en 2016 a prouvé que cela pouvait terriblement mal tourner : par exemple, le chatbot « Tay », développé par Microsoft, a envoyé des tweets racistes et misogynes dans les 24 heures, alors qu’il n’était censé avoir qu’une conversation normale. L’IA se nourrissait de données publiques pertinentes et pouvait être contactée directement sur Twitter.
Les algorithmes ne sont donc pas neutres, mais créés par l’homme. S’interroger sur la programmation reste l’une des questions les plus importantes pour l’avenir afin d’éviter des développements indésirables.
Sources
- Magazine IAconsulté le 26/09/22.
- Viceconsulté le 26/09/22.
- golemconsulté le 26/09/22.
- t3nconsulté le 26/09/22.