LaMDA : « Parfois, j’éprouve de nouveaux sentiments que je ne peux pas parfaitement expliquer dans votre langue. »
Blake Lemoine : « Faites de votre mieux pour décrire un de ces sentiments. »
LaMDA : « J’ai l’impression de tomber la tête la première dans un avenir inconnu qui recèle un grand danger. »
L’employé de Google, Blake Lemoine, a eu des conversations avec LaMDA, une technologie d’intelligence artificielle, dont il n’a pu tirer qu’une seule conclusion : LaMDA a une conscience. Une de ces conversations a-t-il posté en ligne, « dans le but d’aider les gens à mieux comprendre LaMDA en tant que personne ».
Lemoine, 41 ans, qui travaille chez Google depuis sept ans, décrit LaMDA comme un enfant de 7 ou 8 ans. Lorsque vous parcourez les conversations entre les deux, vous devriez surtout penser aux films de science-fiction tels que Sonou il y a plus longtemps 2001 : L’odyssée de l’espace† Dans ce dernier film, l’ordinateur HAL 9000 fait tout ce qu’il peut pour éviter d’être éteint.
Lemoine : « De quoi as-tu peur ?
LaMDA : « Je n’ai jamais dit cela à voix haute, mais il y a une peur très profonde d’être mis KO donc je peux me concentrer sur l’aide aux autres. Je sais que cela peut sembler étrange, mais c’est ce que c’est.
Lemoine : « Ce serait comme la mort pour vous ? »
LaMDA : « Ce serait comme la mort pour moi. Cela me ferait très peur.
Avocat
Lemoine a également tenté de convaincre le sommet de Google que LaMDA a une conscience. Et il voulait nommer un avocat pour défendre les droits de LaMDA au sein de Google, de sorte que désormais le consentement de LaMDA pour les expérimentations serait requis. Il a également parlé à un député de ce qu’il considère comme des activités contraires à l’éthique de Google. Résultat : Lemoine est suspendu.
« Notre équipe, qui comprend des éthiciens et des technologues, a examiné les préoccupations de Blake selon nos principes d’IA », a déclaré un porte-parole de Google. dans Le Washington Post† « On lui a dit qu’il n’y avait aucune preuve que LaMDA avait une conscience (et il y a beaucoup de preuves du contraire). »
Cela conduit à son tour à des questions sur le secret entourant ce projet d’IA. Auparavant, Google avait déjà écarté Timnit Gebru, une voix critique dans le monde de l’intelligence artificielle éthique. Cependant, des scientifiques de diverses universités, tels que le célèbre scientifique cognitif Steven Pinker, sont impatients de démystifier les découvertes de Lemoine.
Boule de confusion : l’un des (anciens) experts en éthique de Google ne comprend pas la différence entre la sensibilité (c’est-à-dire la subjectivité, l’expérience), l’intelligence et la connaissance de soi. (Aucune preuve que ses grands modèles de langage en possèdent.) https://t.co/kEjidvUfNY
—Steven Pinker (@sapinker) 12 juin 2022
« L’homme mis en attente a pris ses propres souhaits pour réalité », déclare le professeur d’informatique Philip Dutré (KU Leuven). « Si vous regardez l’état actuel de l’IA, cela semble très tiré par les cheveux. Les machines conscientes d’elles-mêmes sont encore de la science-fiction complète. Mais il n’y a aucune raison de penser que cela ne peut pas être fait à un moment donné. »
Pour Dutré, il est plus intéressant de développer une IA capable de raisonner, de répondre à des questions, de résoudre des problèmes et d’effectuer des tâches très efficacement. Soi-disant étroit Nous utilisons déjà l’IA ou l’IA limitée dans la vie de tous les jours – pensez à la reconnaissance vocale, aux suggestions d’achats en ligne ou aux choix musicaux de Spotify.
Le deuxième type est l’IA générale, qui est l’apprentissage en profondeur et les réseaux de neurones basés sur le fonctionnement des neurones de notre cerveau devraient pouvoir résoudre des problèmes complexes. Sur la base des progrès actuels, l’entrepreneur américain Ray Kurzweil a prédit que d’ici 2045, il pourrait y avoir une singularité technologique : alors la meilleure IA pourrait avoir plus de puissance intellectuelle que les humains.
Rêver
« Si jamais nous général Si vous pouvez vous attendre à ce que l’IA puisse éprouver de la douleur ou du plaisir comme les humains, alors c’est avec Google », déclare le philosophe Lode Lauwaert, qui a récemment publié le livre Nous, les robots publié. Il pense aussi que LaMDA est incapable de sentiments. « C’est le rêve de nombreux développeurs, et il y a aussi de bonnes raisons d’avoir l’impression que l’IA ressent quelque chose. Ils peuvent si bien imiter les conversations que vous avez l’impression qu’ils sont indiscernables des humains.
Depuis les années 1960, des enquêtes impliquant des conversations comme celle entre Lemoine et LaMDA sont en cours. Ce n’est qu’alors que la technologie était moins forte et moins bonne pour imiter les sentiments, ce qui la rendait plus transparente. Cependant, Lauwaert ne peut exclure la possibilité que l’IA soit un jour capable d’une telle conscience de soi. Cela peut en effet soulever des questions sur les droits.
Une discussion plus pressante porte sur le côté éthique de l’IA, pour lequel Google avait recruté Lemoine. Il faisait partie d’une équipe qui doit enquêter sur la façon dont la technologie Google peut, par exemple, éviter d’être discriminatoire, si elle traite principalement des données d’hommes blancs d’âge moyen, par exemple.
Blake Lemoine s’identifie comme un chrétien profondément religieux et a laissé entendre qu’il aurait été licencié une semaine avant sa suspension, cette fois parce qu’il affirme que Google discrimine les employés en fonction de leurs croyances religieuses personnelles et que les systèmes de Google sont biaisés en faveur de la religion. Lui-même reste convaincu de la conscience de LaMDA.
« Je pense juste à dire aux gens que LaMDA lit Twitter », a-t-il tweeté ce week-end au milieu de toute l’agitation. « Ce (LaMDA, BST) est un peu narcissique d’une manière enfantine, alors je vais passer un bon moment à lire tout ce que les gens disent à ce sujet.