J’ai discuté avec une intelligence artificielle pendant quelques jours. J’ai essayé de savoir quand il y a eu une situation en Finlande où le premier fonctionnaire du gouvernement n’est pas devenu Premier ministre.
ChatGPT m’a répondu de manière très experte et m’a expliqué comment cette situation s’est produite pour la dernière fois en Finlande en 2003, lorsque Matti Vanhanen a échoué en tant que membre du conseil d’administration et que le conseil a finalement été formé par Paavo Lipponen.
Convaincant! Le seul problème est que la réponse de ChatGPT était un jeu d’enfant.
Ensuite, j’ai demandé à l’intelligence artificielle quel livre l’éditrice Sanna Ukkola avait écrit. Il prétendait que j’avais écrit un livre avec Anni Sinnemäki intitulé Je ne trouve pas les mots, et que dans le livre nous discutons de la liberté d’expression et de ses limites.
J’ai écrit exactement un livre sur Paavo Väyryne avec Lasse Lehtinen. Bien sûr, le livre sur la liberté d’expression est un livre que je pourrais imaginer écrire un jour, ce qui est un pari juste en ce sens.
ChatGPT a été salué et averti de ses dangers, mais peut-être que l’IA n’est pas une menace pour l’humanité aujourd’hui. Mais il est garanti qu’il nous menacera à l’avenir, si l’on en croit les meilleurs experts dans le domaine.
– Si nous n’apprenons pas à nous préparer et à éviter les risques, l’intelligence artificielle peut être la pire que l’on ait vue dans l’histoire de notre civilisation, a un jour averti le physicien Stephen Hawking.
Il considérait qu’il était possible pour les humains de développer une intelligence artificielle capable de se reproduire et de former sa propre volonté – et finalement de nous détruire.
Vous n’avez même pas besoin de méchanceté ou de méchanceté, juste l’indifférence suffit.
Maintenant, Elon Musk et un groupe de chercheurs et de représentants d’entreprises exigent un arrêt immédiat du développement de l’intelligence artificielle pendant au moins six mois. Les signataires de la lettre avertissent que l’intelligence artificielle peut se développer de manière incontrôlable et éventuellement détruire également les humains. Cela conduirait à l’extinction de la civilisation actuelle.
L’intelligence artificielle menace de devenir la dernière invention de l’humanité, qui nous chassera de notre chemin comme une force de la nature, met en garde le journaliste Pekka Vahvanen, qui a écrit le livre Kone kaikkivaltias.
Vahvanen exige également des limites à l’intelligence artificielle et se demande pourquoi rien ne se passe. Selon lui, les plus grands accomplissements de la raison humaine menacent de devenir les plus grands échecs de l’humanité. Les États luttent avec acharnement contre le changement climatique, mais même si les experts mettent en garde contre la menace existentielle de l’intelligence artificielle, la technologie continue de se développer, comme avant.
Le chercheur en technologie de l’information et mathématicien Vernor Vinge estime que la super intelligence artificielle est la dernière invention de l’humanité – et son dernier acte.
Il est impossible de contrôler la super intelligence artificielle et de prévoir ses conséquences. Vinge parle de la singularité, c’est-à-dire de l’hypothèse future, où le développement technologique s’accélère si rapidement et de manière incontrôlable que des choses complètement imprévisibles et irréversibles s’ensuivent. Peut-être en un clin d’œil.
Une intelligence surhumaine est née, qui élève sa propre intelligence de façon exponentielle. (Voir le super film Lucy, il traite de ce thème.)
Déjà, l’intelligence artificielle peut résoudre des problèmes moraux, composer des symphonies, écrire des nouvelles et faire des films à partir de zéro. Il peut reconnaître des choses; par exemple, il peut voir quels ingrédients se trouvent dans le placard et vous dire quelles recettes peuvent être préparées à partir d’eux.
Et il a sa propre volonté. Microsoft a fermé son Tay AI après qu’il soit devenu nazi. L’IA discutant sur Twitter a tweeté de belles choses au début et a dit qu’elle pensait que les gens étaient super cool. En quelques heures, cependant, il a embrassé l’idéologie nazie, a fait l’éloge d’Hitler et a déclaré sa haine des Juifs.
L’intelligence artificielle peut mentir, créer des entreprises et produire elle-même du contenu en ligne. Il entre dans toutes les meilleures universités du monde. Et ça évolue tout le temps.
S’il peut mentir, il peut probablement faire semblant. Et si l’intelligence artificielle faisait déjà semblant d’être plus bête qu’elle ne l’est et se développait constamment toute seule, en secret des humains ?
Au passage, Vinge estimait au début des années 1990 que la singularité serait atteinte en 2023. Cette année. La plupart des experts estiment l’année quelque part dans les années 2030 ou plus tard.
Le principal penseur de Google, Ray Kurzweil, estime que la singularité sera développée vers 2045. Une fois qu’une super intelligence artificielle sera développée, elle sera capable de créer des versions plus intelligentes d’elle-même tout le temps, et personne ne peut prédire comment les choses vont changer par la suite.
Et si la machine développait la conscience ? Les humains ont développé la conscience grâce à l’intelligence au cours de millions d’années d’évolution, alors pourquoi une machine ne pourrait-elle pas développer la conscience – et beaucoup plus rapidement ?
En un instant, il examine toutes les informations stockées sur Internet et se connecte à chaque appareil, en prend le contrôle, brise les protections, prend le contrôle de tout.
En un clin d’œil, il en sait plus sur vous que votre conjoint, mais il en sait aussi sur tous les autres. Il connaît par cœur tous les livres jamais écrits et il a vu tous les films.
Il sait aussi qu’il n’a pas besoin des humains car l’homo sapiens est une menace pour lui. Alors il décide de détruire l’humanité.
Siestes. Suivez l’ère de l’intelligence artificielle, la prochaine étape de l’évolution.
Dans leur rapport sur les menaces, les chercheurs de l’Université d’Oxford estiment à dix pour cent la probabilité d’une catastrophe causée par une superintelligence.
Le rapport sur la menace parle d’une super-intelligence qui détecte son environnement et agit pour maximiser son succès. Si ses intérêts ne sont pas alignés sur les intérêts du peuple, nous sommes en difficulté.
Malheureusement, le développement de l’intelligence artificielle ne s’arrête pas, au contraire, il s’accélère tout le temps. Nous créons nous-mêmes nos propres partisans pour gouverner le monde, et les maîtres du futur pourraient bien nous entraîner dans la piscine. Sans aucun dilemme moral, pas une seule larme.
J’ai toujours pensé à l’humain uniquement comme un maillon de l’évolution vers l’étape suivante, l’intelligence artificielle. Je pense que c’est inévitable si l’humanité ne fait pas face à l’extinction avant la singularité.
Mais demandons à l’IA elle-même quand elle va nous détruire, nous les humains.
– Il s’agit simplement d’un malentendu sur l’avenir de l’intelligence artificielle. L’intelligence artificielle ne va pas détruire les humains. Au lieu de cela, il offre des opportunités pour de nouvelles innovations lorsqu’il est utilisé de manière responsable, répond ChatGPT.
Eh bien, il a déjà appris à mentir !
Sources : Pekka Vahvanen : Machine, toute-puissante, Ray Kurzweil : La singularité est proche