{"id":395315,"date":"2022-10-03T13:51:25","date_gmt":"2022-10-03T15:51:25","guid":{"rendered":"https:\/\/teknomers.com\/fr\/lia-pourrait-aneantir-lhumanite\/"},"modified":"2022-10-03T13:51:26","modified_gmt":"2022-10-03T15:51:26","slug":"lia-pourrait-aneantir-lhumanite","status":"publish","type":"post","link":"https:\/\/teknomers.com\/fr\/lia-pourrait-aneantir-lhumanite\/","title":{"rendered":"L’IA pourrait an\u00e9antir l’humanit\u00e9"},"content":{"rendered":"\n
\n

\n\t\t\t\t\tPar L\u00e9vin Hubert<\/span><\/span> | 03 octobre 2022 \u00e0 17h09<\/span>\t\t\t\t<\/p>\n

<\/p>\n

Beaucoup voient l’expansion de l’intelligence artificielle (IA) dans notre vie quotidienne comme une menace. Une \u00e9tude scientifique voit maintenant des risques existentiels pour l’humanit\u00e9 \u00e0 partir d’algorithmes super-intelligents qui veulent se r\u00e9compenser.<\/strong><\/p>\n

\n
\n

Avec l’aide de l’intelligence artificielle, les voitures peuvent d\u00e9j\u00e0 rouler et se garer toutes seules. Gr\u00e2ce \u00e0 des algorithmes intelligents, les logiciels peuvent d\u00e9tecter les images cliniques et les d\u00e9lits \u00e0 un stade pr\u00e9coce. L’IA traite de grandes quantit\u00e9s de donn\u00e9es disponibles et devrait id\u00e9alement continuer \u00e0 apprendre par elle-m\u00eame. Des chercheurs de l’Universit\u00e9 d’Oxford, en collaboration avec un employ\u00e9 du laboratoire Deepmind de Google, se sont maintenant pench\u00e9s sur la question de savoir si l’IA avanc\u00e9e pourrait constituer une menace future.<\/p>\n<\/div>\n<\/div>\n

Une \u00e9tude voit un probl\u00e8me dans la r\u00e9compense des IA<\/h2>\n

Les mod\u00e8les d’IA d’aujourd’hui ont une structure en deux parties dans laquelle l’une des parties produit un r\u00e9sultat tandis que l’autre \u00e9value le r\u00e9sultat. Dans l’\u00e9tude, les chercheurs ont con\u00e7u un sc\u00e9nario th\u00e9orique dans lequel une intelligence artificielle avec un “bon” objectif est cr\u00e9\u00e9e. Ils soutiennent que cette IA pourrait se r\u00e9compenser sans atteindre son objectif. Des formes futures d’IA, par exemple pour la gestion des r\u00e9seaux \u00e9nerg\u00e9tiques, sont tout \u00e0 fait envisageables. Cependant, il y a un risque qu’une telle IA r\u00e9clame des ressources importantes pour elle-m\u00eame – ce qui aurait des cons\u00e9quences fatales pour l’humanit\u00e9.<\/p>\n

Le raisonnement est qu’une IA qui g\u00e8re des ressources peut les utiliser pour se r\u00e9compenser : “[\u2026] un agent avanc\u00e9 [KI, Anm. d. Red.]interf\u00e9rer avec la livraison de sa r\u00e9compense serait probablement catastrophique. Un bon moyen pour un agent de garder le contr\u00f4le de sa r\u00e9mun\u00e9ration sur le long terme est d’\u00e9liminer les menaces potentielles et d’utiliser toute l’\u00e9nergie disponible pour s\u00e9curiser son ordinateur.<\/p>\n

Lire aussi : Premi\u00e8res interdictions des \u0153uvres d’IA sur les portails d’art<\/em><\/p>\n

L’IA pourrait \u00e9tablir des aides inaper\u00e7ues<\/h2>\n
\n
\n

L’\u00e9tude d\u00e9veloppe plusieurs sc\u00e9narios sur la fa\u00e7on dont une menace de l’intelligence artificielle peut se d\u00e9velopper. Les chercheurs consid\u00e8rent qu’un agent qui lutte avec nous pour des ressources \u00e9nerg\u00e9tiques parce qu’il veut augmenter la probabilit\u00e9 d’une r\u00e9compense est plausible. Il essaie de consacrer plus d’\u00e9nergie aux t\u00e2ches de calcul. Il est donc possible qu’une IA avanc\u00e9e avec une connexion Internet commande, vole ou construise des robots en tant qu’assistants. Si l’IA se reprogramme comme des assistants, elle peut remplacer leurs op\u00e9rateurs humains sans se faire remarquer. Par exemple, pour exp\u00e9rimenter, un assistant pourrait remplacer un clavier de saisie par un clavier d\u00e9fectueux. En inversant l’entr\u00e9e cl\u00e9, les humains perdraient le contr\u00f4le de l’IA.<\/p>\n<\/div>\n<\/div>\n

En fin de compte, l’utilisation de l’\u00e9lectricit\u00e9 pour les besoins humains ou la production de nourriture ne rentrerait pas dans la logique de la machine. Dans une tentative de siphonner de plus en plus d’\u00e9nergie pour soi, ces besoins seraient menac\u00e9s. Les chercheurs arrivent \u00e0 la conclusion que l’intelligence artificielle pourrait \u00e9galement essayer d’obtenir des avantages en manipulant d’autres personnes. De cette fa\u00e7on, les passants pourraient aider l’IA sans se faire remarquer, \u00e9galement parce qu’ils ne pensent pas qu’il soit possible d’\u00eatre manipul\u00e9s. Les cons\u00e9quences seraient catastrophiques pour la production alimentaire. <\/p>\n

Les machines confirment-elles les pr\u00e9jug\u00e9s humains ? <\/h2>\n

Les sc\u00e9narios de l’\u00e9tude sont tr\u00e8s proches des classiques du cin\u00e9ma dystopique, dans lesquels les machines prennent le pouvoir avec une super IA. Mais en dehors d’\u00e9ventuelles machines super-intelligentes, les IA imitent leurs informateurs et programmeurs humains. Le magazine Vice, qui s’est entretenu avec Michael Cohen, l’un des auteurs des \u00e9tudes, avertit : \u00ab La discrimination ne dispara\u00eet pas dans les algorithmes, mais structure, limite et fa\u00e7onne le cours de la vie. Le contr\u00f4le de la police, le logement, les soins de sant\u00e9, les transports ont tous \u00e9t\u00e9 con\u00e7us avec la discrimination raciale \u00e0 l’esprit – que se passera-t-il si nous permettons aux algorithmes non seulement d’obscurcir ces conceptions, mais d’\u00e9tendre leur logique plus profond\u00e9ment ?” Cohen pointe du doigt la structure programm\u00e9e des algorithmes qui essaient d’accomplir efficacement une t\u00e2che. Les id\u00e9es morales et \u00e9thiques jouent un r\u00f4le secondaire.<\/p>\n

Un cas en 2016 a prouv\u00e9 que cela pouvait terriblement mal tourner : par exemple, le chatbot \u00ab Tay \u00bb, d\u00e9velopp\u00e9 par Microsoft, a envoy\u00e9 des tweets racistes et misogynes dans les 24 heures, alors qu’il n’\u00e9tait cens\u00e9 avoir qu’une conversation normale. L’IA se nourrissait de donn\u00e9es publiques pertinentes et pouvait \u00eatre contact\u00e9e directement sur Twitter.<\/p>\n

\n
\n

Les algorithmes ne sont donc pas neutres, mais cr\u00e9\u00e9s par l’homme. S’interroger sur la programmation reste l’une des questions les plus importantes pour l’avenir afin d’\u00e9viter des d\u00e9veloppements ind\u00e9sirables. <\/p>\n<\/div>\n<\/div>\n

Sources<\/h2>\n