{"id":706087,"date":"2023-04-27T04:27:21","date_gmt":"2023-04-27T06:27:21","guid":{"rendered":"https:\/\/teknomers.com\/fr\/chronique-nous-creons-notre-propre-pire-monstre-qui-menace-toute-lhumanite\/"},"modified":"2023-04-27T04:27:24","modified_gmt":"2023-04-27T06:27:24","slug":"chronique-nous-creons-notre-propre-pire-monstre-qui-menace-toute-lhumanite","status":"publish","type":"post","link":"https:\/\/teknomers.com\/fr\/chronique-nous-creons-notre-propre-pire-monstre-qui-menace-toute-lhumanite\/","title":{"rendered":"Chronique\u00a0: Nous cr\u00e9ons notre propre pire monstre qui menace toute l’humanit\u00e9"},"content":{"rendered":"\n
\n

J’ai discut\u00e9 avec une intelligence artificielle pendant quelques jours. J’ai essay\u00e9 de savoir quand il y a eu une situation en Finlande o\u00f9 le premier fonctionnaire du gouvernement n’est pas devenu Premier ministre.<\/p>\n

ChatGPT m’a r\u00e9pondu de mani\u00e8re tr\u00e8s experte et m’a expliqu\u00e9 comment cette situation s’est produite pour la derni\u00e8re fois en Finlande en 2003, lorsque Matti Vanhanen a \u00e9chou\u00e9 en tant que membre du conseil d’administration et que le conseil a finalement \u00e9t\u00e9 form\u00e9 par Paavo Lipponen.<\/p>\n

Convaincant! Le seul probl\u00e8me est que la r\u00e9ponse de ChatGPT \u00e9tait un jeu d’enfant.<\/p>\n

Ensuite, j’ai demand\u00e9 \u00e0 l’intelligence artificielle quel livre l’\u00e9ditrice Sanna Ukkola avait \u00e9crit. Il pr\u00e9tendait que j’avais \u00e9crit un livre avec Anni Sinnem\u00e4ki intitul\u00e9 Je ne trouve pas les mots, et que dans le livre nous discutons de la libert\u00e9 d’expression et de ses limites.<\/p>\n

J’ai \u00e9crit exactement un livre sur Paavo V\u00e4yryne avec Lasse Lehtinen. Bien s\u00fbr, le livre sur la libert\u00e9 d’expression est un livre que je pourrais imaginer \u00e9crire un jour, ce qui est un pari juste en ce sens.<\/p>\n

ChatGPT a \u00e9t\u00e9 salu\u00e9 et averti de ses dangers, mais peut-\u00eatre que l’IA n’est pas une menace pour l’humanit\u00e9 aujourd’hui. Mais il est garanti qu’il nous menacera \u00e0 l’avenir, si l’on en croit les meilleurs experts dans le domaine.<\/p>\n

– Si nous n’apprenons pas \u00e0 nous pr\u00e9parer et \u00e0 \u00e9viter les risques, l’intelligence artificielle peut \u00eatre la pire que l’on ait vue dans l’histoire de notre civilisation, a un jour averti le physicien Stephen Hawking.<\/p>\n

Il consid\u00e9rait qu’il \u00e9tait possible pour les humains de d\u00e9velopper une intelligence artificielle capable de se reproduire et de former sa propre volont\u00e9 – et finalement de nous d\u00e9truire.<\/p>\n

Vous n’avez m\u00eame pas besoin de m\u00e9chancet\u00e9 ou de m\u00e9chancet\u00e9, juste l’indiff\u00e9rence suffit.<\/p>\n

Maintenant, Elon Musk et un groupe de chercheurs et de repr\u00e9sentants d’entreprises exigent un arr\u00eat imm\u00e9diat du d\u00e9veloppement de l’intelligence artificielle pendant au moins six mois. Les signataires de la lettre avertissent que l’intelligence artificielle peut se d\u00e9velopper de mani\u00e8re incontr\u00f4lable et \u00e9ventuellement d\u00e9truire \u00e9galement les humains. Cela conduirait \u00e0 l’extinction de la civilisation actuelle.<\/p>\n

L’intelligence artificielle menace de devenir la derni\u00e8re invention de l’humanit\u00e9, qui nous chassera de notre chemin comme une force de la nature, met en garde le journaliste Pekka Vahvanen, qui a \u00e9crit le livre Kone kaikkivaltias<\/a>.<\/p>\n

Vahvanen exige \u00e9galement des limites \u00e0 l’intelligence artificielle et se demande pourquoi rien ne se passe. Selon lui, les plus grands accomplissements de la raison humaine menacent de devenir les plus grands \u00e9checs de l’humanit\u00e9. Les \u00c9tats luttent avec acharnement contre le changement climatique, mais m\u00eame si les experts mettent en garde contre la menace existentielle de l’intelligence artificielle, la technologie continue de se d\u00e9velopper, comme avant.<\/p>\n

Le chercheur en technologie de l’information et math\u00e9maticien Vernor Vinge estime que la super intelligence artificielle est la derni\u00e8re invention de l’humanit\u00e9 – et son dernier acte.<\/p>\n

Il est impossible de contr\u00f4ler la super intelligence artificielle et de pr\u00e9voir ses cons\u00e9quences. Vinge parle de la singularit\u00e9, c’est-\u00e0-dire de l’hypoth\u00e8se future, o\u00f9 le d\u00e9veloppement technologique s’acc\u00e9l\u00e8re si rapidement et de mani\u00e8re incontr\u00f4lable que des choses compl\u00e8tement impr\u00e9visibles et irr\u00e9versibles s’ensuivent. Peut-\u00eatre en un clin d’\u0153il.<\/p>\n

Une intelligence surhumaine est n\u00e9e, qui \u00e9l\u00e8ve sa propre intelligence de fa\u00e7on exponentielle. (Voir le super film Lucy, il traite de ce th\u00e8me.)<\/p>\n

D\u00e9j\u00e0, l’intelligence artificielle peut r\u00e9soudre des probl\u00e8mes moraux, composer des symphonies, \u00e9crire des nouvelles et faire des films \u00e0 partir de z\u00e9ro. Il peut reconna\u00eetre des choses; par exemple, il peut voir quels ingr\u00e9dients se trouvent dans le placard et vous dire quelles recettes peuvent \u00eatre pr\u00e9par\u00e9es \u00e0 partir d’eux.<\/p>\n

Et il a sa propre volont\u00e9. Microsoft a ferm\u00e9 son Tay AI apr\u00e8s qu’il soit devenu nazi. L’IA discutant sur Twitter a tweet\u00e9 de belles choses au d\u00e9but et a dit qu’elle pensait que les gens \u00e9taient super cool. En quelques heures, cependant, il a embrass\u00e9 l’id\u00e9ologie nazie, a fait l’\u00e9loge d’Hitler et a d\u00e9clar\u00e9 sa haine des Juifs.<\/p>\n

L’intelligence artificielle peut mentir, cr\u00e9er des entreprises et produire elle-m\u00eame du contenu en ligne. Il entre dans toutes les meilleures universit\u00e9s du monde. Et \u00e7a \u00e9volue tout le temps.<\/p>\n

S’il peut mentir, il peut probablement faire semblant. Et si l’intelligence artificielle faisait d\u00e9j\u00e0 semblant d’\u00eatre plus b\u00eate qu’elle ne l’est et se d\u00e9veloppait constamment toute seule, en secret des humains ?<\/p>\n

Au passage, Vinge estimait au d\u00e9but des ann\u00e9es 1990 que la singularit\u00e9 serait atteinte en 2023. Cette ann\u00e9e. La plupart des experts estiment l’ann\u00e9e quelque part dans les ann\u00e9es 2030 ou plus tard.<\/p>\n

Le principal penseur de Google, Ray Kurzweil, estime que la singularit\u00e9 sera d\u00e9velopp\u00e9e vers 2045. Une fois qu’une super intelligence artificielle sera d\u00e9velopp\u00e9e, elle sera capable de cr\u00e9er des versions plus intelligentes d’elle-m\u00eame tout le temps, et personne ne peut pr\u00e9dire comment les choses vont changer par la suite.<\/p>\n

Et si la machine d\u00e9veloppait la conscience ? Les humains ont d\u00e9velopp\u00e9 la conscience gr\u00e2ce \u00e0 l’intelligence au cours de millions d’ann\u00e9es d’\u00e9volution, alors pourquoi une machine ne pourrait-elle pas d\u00e9velopper la conscience – et beaucoup plus rapidement ?<\/p>\n

En un instant, il examine toutes les informations stock\u00e9es sur Internet et se connecte \u00e0 chaque appareil, en prend le contr\u00f4le, brise les protections, prend le contr\u00f4le de tout.<\/p>\n

En un clin d’\u0153il, il en sait plus sur vous que votre conjoint, mais il en sait aussi sur tous les autres. Il conna\u00eet par c\u0153ur tous les livres jamais \u00e9crits et il a vu tous les films.<\/p>\n

Il sait aussi qu’il n’a pas besoin des humains car l’homo sapiens est une menace pour lui. Alors il d\u00e9cide de d\u00e9truire l’humanit\u00e9.<\/p>\n

Siestes. Suivez l’\u00e8re de l’intelligence artificielle, la prochaine \u00e9tape de l’\u00e9volution.<\/p>\n

Dans leur rapport sur les menaces, les chercheurs de l’Universit\u00e9 d’Oxford estiment \u00e0 dix pour cent la probabilit\u00e9 d’une catastrophe caus\u00e9e par une superintelligence.<\/p>\n

Le rapport sur la menace parle d’une super-intelligence qui d\u00e9tecte son environnement et agit pour maximiser son succ\u00e8s. Si ses int\u00e9r\u00eats ne sont pas align\u00e9s sur les int\u00e9r\u00eats du peuple, nous sommes en difficult\u00e9.<\/p>\n

Malheureusement, le d\u00e9veloppement de l’intelligence artificielle ne s’arr\u00eate pas, au contraire, il s’acc\u00e9l\u00e8re tout le temps. Nous cr\u00e9ons nous-m\u00eames nos propres partisans pour gouverner le monde, et les ma\u00eetres du futur pourraient bien nous entra\u00eener dans la piscine. Sans aucun dilemme moral, pas une seule larme.<\/p>\n

J’ai toujours pens\u00e9 \u00e0 l’humain uniquement comme un maillon de l’\u00e9volution vers l’\u00e9tape suivante, l’intelligence artificielle. Je pense que c’est in\u00e9vitable si l’humanit\u00e9 ne fait pas face \u00e0 l’extinction avant la singularit\u00e9.<\/p>\n

Mais demandons \u00e0 l’IA elle-m\u00eame quand elle va nous d\u00e9truire, nous les humains.<\/p>\n

– Il s’agit simplement d’un malentendu sur l’avenir de l’intelligence artificielle. L’intelligence artificielle ne va pas d\u00e9truire les humains. Au lieu de cela, il offre des opportunit\u00e9s pour de nouvelles innovations lorsqu’il est utilis\u00e9 de mani\u00e8re responsable, r\u00e9pond ChatGPT.<\/p>\n

Eh bien, il a d\u00e9j\u00e0 appris \u00e0 mentir !<\/p>\n

Sources : Pekka Vahvanen : Machine, toute-puissante, Ray Kurzweil : La singularit\u00e9 est proche<\/em><\/p>\n<\/div>\n


\n
ttn-fr-54<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

J’ai discut\u00e9 avec une intelligence artificielle pendant quelques jours. J’ai essay\u00e9 de savoir quand il y a eu une situation en Finlande o\u00f9 le premier fonctionnaire du gouvernement n’est pas devenu Premier ministre. ChatGPT m’a r\u00e9pondu de mani\u00e8re tr\u00e8s experte et m’a expliqu\u00e9 comment cette situation s’est produite pour la derni\u00e8re fois en Finlande en […]<\/p>\n","protected":false},"author":1,"featured_media":706088,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[12884,81692,158828,568,115986,8956,8012,596,23227,1819,1266,3121,2228,364,12258,2426,13393],"class_list":["post-706087","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologie","tag-24-heures","tag-astronomie","tag-chercheurs-scientifiques","tag-chronique","tag-creons","tag-lhumanite","tag-livres","tag-menace","tag-monstre","tag-notre","tag-nous","tag-pire","tag-propre","tag-qui","tag-technologie-general","tag-toute","tag-traitement-des-donnees-et-technologies-de-linformation"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/706087","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/comments?post=706087"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/706087\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/media\/706088"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/media?parent=706087"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/categories?post=706087"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/tags?post=706087"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}