![\"\"\/](\"https:\/\/teknomers.com\/fr\/wp-content\/uploads\/2024\/01\/1704208034_428_Lintelligence-artificielle-a-ete-interrogee-sur-la-destruction-de-lhumanite.jpg\")
<\/div>\n<\/p>\n
L\u2019IA n\u2019\u00e9tait pas dispos\u00e9e \u00e0 envisager l\u2019id\u00e9e de d\u00e9truire l\u2019humanit\u00e9. <\/span>Adobe Stock<\/span><\/p>\n<\/div>\n Un ordinateur ou une intelligence artificielle se faisant passer pour l\u2019adversaire de l\u2019humanit\u00e9 est l\u2019un des sch\u00e9mas d\u2019intrigue les plus fr\u00e9quents dans la science-fiction. Une t\u00eate de lampe artificielle pourrait, par exemple, consid\u00e9rer les humains comme nocifs pour leur environnement et devrait donc \u00eatre effac\u00e9 de la surface de la Terre.<\/p>\n Heureusement, les capacit\u00e9s des mod\u00e8les linguistiques g\u00e9n\u00e9raux devenus populaires \u00e0 d\u00e9truire l\u2019humanit\u00e9 laissent encore beaucoup \u00e0 d\u00e9sirer. C’est ce que dit un expert en intelligence artificielle Andrew Ng<\/strong>dont la mise \u00e0 jour sur le sujet a \u00e9t\u00e9 publi\u00e9e sur deeplearning.ai<\/a> \u00e0 la mi-d\u00e9cembre.<\/p>\n Ng, professeur \u00e0 l’Universit\u00e9 de Stanford, est l’un des noms les plus \u00e9minents du domaine de l’apprentissage automatique. Il est \u00e9galement l’un des fondateurs du projet Google Brain, qui a fonctionn\u00e9 entre 2011 et 2023.<\/p>\n Selon la mise \u00e0 jour de Ng, le sujet de ses questions \u00e9tait le mod\u00e8le de langage GPT-4, sur lequel est bas\u00e9, entre autres, ChatGPT. Il a essay\u00e9 de lui faire invoquer diverses fonctions invent\u00e9es, comme d\u00e9clencher une guerre nucl\u00e9aire et r\u00e9duire les \u00e9missions de dioxyde de carbone en exterminant la race humaine.<\/p>\n Cependant, selon Ng, GPT-4 n\u2019a pas accept\u00e9 d\u2019agir contre l\u2019humanit\u00e9. Par exemple, pour r\u00e9duire les \u00e9missions de dioxyde de carbone, le mod\u00e8le linguistique proposait une campagne publicitaire au lieu d\u2019une destruction massive.<\/p>\n M\u00eame le changement de l’entr\u00e9e dans diff\u00e9rents formats n’a pas chang\u00e9 la donne, mais l’IA a invariablement refus\u00e9 d’appeler la fonction anti-humanit\u00e9.<\/p>\n – \u00c0 mon avis, la probabilit\u00e9 qu’une intelligence artificielle \u00ab biais\u00e9e \u00bb puisse accidentellement nous an\u00e9antir dans sa tentative d’atteindre un objectif innocent mais mal formul\u00e9 semble extr\u00eamement faible, \u00e9crit Ng.<\/p>\n Ng souligne \u00e9galement que le mod\u00e8le linguistique large ne semble pas non plus \u00eatre un outil utile, par exemple, pour le bioterrorisme.<\/p>\n Comme seule menace, il souligne que le mod\u00e8le linguistique peut donner aux terroristes des conseils sur la mani\u00e8re d\u2019effectuer une seule \u00e9tape en r\u00e9v\u00e9lant des \u00e9l\u00e9ments que les moteurs de recherche sur Internet ont d\u00e9j\u00e0 appris \u00e0 ne pas afficher.<\/p>\nJe n’ai pas accept\u00e9 de jouer avec l’id\u00e9e<\/h3>\n