Ma femme ne prend même plus la peine de lever les yeux au ciel lorsque je ne parviens pas à terminer la plus simple des tâches ménagères. « Tu as été distrait ? » me demande-t-elle, même si elle connaît la réponse. Heureusement, j’ai maintenant une couverture, car s’il y a une personne dans la maison qui est plus susceptible de s’arrêter à mi-chemin de mettre ses chaussures ou de se brosser les dents, parce qu’il se souvient soudainement de quelque chose qu’il voulait lire, regarder ou écouter, c’est bien mon fils de 13 ans. Lorsque la distraction sera un sport olympique, je parie qu’il sera un prétendant à la médaille.
Ma femme, bien sûr, lui est plus indulgente qu’à moi.
« Il se laisse distraire parce qu’il est très curieux », a-t-elle dit. Et cette remarque m’est restée en tête, en partie parce que j’avais lu presque exactement la même chose du gourou du design Don Norman, qui a écrit : « Ma curiosité me conduit souvent à des idées qui m’ont aidé dans ma carrière. Alors pourquoi ce merveilleux trait créatif qu’est la curiosité est-il qualifié de « distraction » de façon négative ? » Ce sont des idées qui méritent réflexion. Pourtant, il y a sûrement une distinction à faire entre le trait essentiel qu’est la curiosité et son jumeau maléfique, la distractibilité.
L’exploration de Janelle Shane IA, tu ressembles à une chose et je t’aime (2019) apporte un éclairage sur cette question dans des conditions contrôlées en examinant le comportement de systèmes d’IA curieux et distraits. Comme l’explique Shane, les systèmes d’IA sont souvent formés en utilisant une forme d’essais et d’erreurs, avec une « fonction de récompense » qui décide quelles expériences doivent être considérées comme un succès et lesquelles doivent être considérées comme un échec. Par exemple, vous pouvez apprendre à un ordinateur à faire du vélo virtuel dans un environnement 3D simulé en récompensant la distance parcourue et en pénalisant le nombre de fois où le vélo tombe.
Le défi se pose lorsque la fonction de récompense ne correspond pas à ce que les programmeurs humains voulaient vraiment. Peut-être l’IA évitera-t-elle le risque de chute en laissant le vélo par terre, ou maximisera-t-elle la distance parcourue en vacillant dans un grand cercle ou même en mettant le vélo à l’envers et en actionnant les pédales. Ce ne sont pas de simples possibilités théoriques. Un algorithme a été conçu pour trier une liste de nombres et supprimer simplement la liste, garantissant instantanément qu’aucun nombre ne soit déplacé.
Ce sont des problèmes assez simples. Plus le comportement souhaité est complexe, plus il est facile de récompenser par erreur la mauvaise chose. Mais il existe une approche astucieuse et efficace pour entraîner les ordinateurs à résoudre un éventail assez large de problèmes : récompenser la curiosité. Plus précisément, récompenser l’ordinateur lorsqu’il se trouve confronté à des situations dont il trouve le résultat imprévisible. Il partira alors à la recherche de quelque chose qu’il n’a jamais vu auparavant.
Shane écrit : « Une IA guidée par la curiosité apprendra à se déplacer dans un niveau de jeu vidéo pour pouvoir voir de nouvelles choses, en évitant les boules de feu, les monstres et les fosses mortelles, car lorsqu’elle est touchée par ceux-ci, elle voit la même séquence de mort ennuyeuse. » La mort doit être évitée non pas pour elle-même, mais parce qu’elle est terriblement prévisible.
Tout cela est fascinant en soiet laisse entrevoir pourquoi les humains eux-mêmes ont pu développer un sens de la curiosité. Mais les systèmes d’IA, comme les garçons de 13 ans, peuvent aussi être curieux au point d’être distraits. Par exemple, demandez à une IA motivée par la curiosité d’apprendre à jouer à un jeu Pac-ManDans ce jeu de type « jeu de type curiousbot » dans lequel des fantômes se déplacent de manière aléatoire dans un labyrinthe, vous aurez du mal à trouver la réponse : l’IA n’a rien à faire pour satisfaire sa curiosité, car les fantômes imprévisibles sont infiniment fascinants. Ou, comme l’explique Shane, un curiousbot apprendra rapidement à naviguer dans un labyrinthe, à moins que l’un des murs du labyrinthe ne soit équipé d’une télévision qui affiche une série d’images aléatoires. « Dès que l’IA a trouvé la télévision, elle a été fascinée. » Tout comme mon fils. Ou, d’ailleurs, moi.
Ce problème est suffisamment connu des chercheurs en intelligence artificielle pour qu’on lui donne un nom : le « problème de la télévision bruyante ». Et, pour un programmeur astucieux, il peut être résolu. Hélas, notre monde moderne regorge de distractions aussi parfaitement conçues pour attirer notre attention qu’une télévision pleine de parasites est conçue pour attirer l’attention d’un robot curieux, et nous ne pouvons pas simplement nous reprogrammer pour éviter ces calories intellectuelles vides.
Une solution est défensive : évitez les téléviseurs bruyants. Supprimez votre compte de réseaux sociaux (ou, au moins, supprimez l’application de votre téléphone et installez la vérification en deux étapes pour rendre la connexion plus ennuyeuse). Ne dormez pas avec votre téléphone dans la chambre. Désactivez toutes les notifications qui ne sont pas essentielles. Nous savons tout cela, et si vous pouvez vous forcer à le faire, cela fonctionne. Mais une deuxième approche se concentre davantage sur le positif. En plus d’essayer d’éliminer la simple nouveauté, nous devrions rechercher des choses qui méritent d’être étudiées. C’est plus facile qu’on ne le pense, car la curiosité réfléchie construit la connaissance, et la connaissance construit la curiosité réfléchie.
Comme l’explique Ian Leslie dans son livre Curieux : le désir de savoir et pourquoi votre avenir en dépend (2014), la curiosité humaine nécessite généralement une base de faits raisonnable pour la soutenir. « La zone de curiosité est à côté de ce que vous savez déjà », écrit-il.
Cela semble vrai. Je suis beaucoup plus curieux des nouvelles idées dans des domaines que je connais déjà un peu, comme l’économie, les jeux de société ou la gymnastique, que des sujets dans lesquels je n’ai aucune connaissance intellectuelle, comme l’anthropologie, le tricot ou le hockey.
Le plan des deux membres distraits de la famille Harford doit donc être le même : continuer à apprendre. Plus vous en saurez, plus vous préférerez quelque chose de approfondi plutôt que la prochaine vignette recommandée par YouTube.
Le livre pour enfants de Tim Harford, « The Truth Detective » (Wren & Rook), est désormais disponible
Suivre @FTMag pour découvrir nos dernières actualités en avant-première et vous abonner à notre podcast La vie et l’art où que vous écoutiez