Pouvez-vous apprendre à un ordinateur à ne pas mentir à moins que la Gestapo ne soit à la porte ? Et comment une machine sait-elle qu’il ne s’agit pas d’agents « ordinaires », qui dans les sociétés démocratiques sont appelés vos meilleurs amis ?
Eh bien, cela devrait encore être possible, déclare le professeur d’intelligence artificielle Jan Broersen. C’est en fait un exemple assez simple d’une exception qui va au-dessus de la règle générale. « Vous avez déjà des systèmes de raisonnement formels qui peuvent traiter des règles que vous devez également être en mesure d’enfreindre dans certaines situations. Il y a des exemples beaucoup plus compliqués, des systèmes entiers de règles qui interagissent. Mais en théorie, tout cela peut être programmé.
La mesure dans laquelle cela rend possible des ordinateurs « moraux », des systèmes automatisés qui apprennent à faire leurs propres choix – et à assumer leurs responsabilités – est au centre des recherches de Broersen, qui a donné sa conférence inaugurale à l’Université d’Utrecht fin mars. Formé comme mathématicien à Delft, il veut utiliser la logique pour essayer de développer un calcul moral pour les systèmes d’IA.
Une telle « logique déonique » (du grec déon: ce qui est approprié ou obligatoire) est désespérément nécessaire, selon lui, pour une société qui utilise de plus en plus l’intelligence artificielle. “Tout le monde parle d’IA et d’éthique, mais presque personne ne fait quoi que ce soit à ce sujet. Au moins, il est généralement abordé comme un problème social ou juridique. Voulons-nous vraiment des voitures autonomes sur la route ? Comment devrions-nous intégrer cela légalement? Quand les fabricants sont-ils responsables ? »
Tout cela est très important, dit Broersen, mais pourquoi ne pas se demander si la responsabilité morale peut être programmée dans les systèmes d’IA eux-mêmes ? “Je veux savoir : comment opérationnalisez-vous les théories existantes sur l’éthique et les mettez-vous dans une machine pour qu’elle sache comment gérer les situations dans lesquelles les considérations morales sont importantes.”
Supposons que vous puissiez sauver ces dix personnes en vous poussant mutuellement sur les rails
Expliquez-nous, comment mettez-vous l’éthique dans les machines ?
« Bien sûr, cela commence par des théories morales très différentes. Les philosophes y ont travaillé sans fin. Certaines théories sont plus faciles à imaginer automatiser que d’autres. Prenez l’utilitarisme, grosso modo, le point de vue selon lequel vous devriez faire ce qui produit le plus d’avantages ou de bonheur pour le plus grand nombre de personnes possible. C’est une approche assez quantitative que vous pouvez facilement saisir dans un programme. Cela correspond à la façon dont les informaticiens pensent déjà l’intelligence : comme une procédure pour choisir des actions parmi une série d’options avec un objectif clair.
Ensuite, le “problème du chariot” se pose. Devez-vous laisser un chariot en fuite courir vers dix personnes pour vous assurer qu’elles sont tuées, ou devez-vous basculer l’interrupteur sur une autre piste où une seule personne est tuée ?
« Oui, il existe de nombreuses variantes. Vous pouvez voir que pour beaucoup de gens, l’utilitarisme est une théorie morale insatisfaisante. La morale est-elle vraiment un calcul aussi simple : dix victimes ou une ? Les gens font également une différence entre ne rien faire et intervenir activement, comme appuyer sur l’interrupteur. Cela a des conséquences sur la façon dont nous percevons la responsabilité. Et supposons que vous puissiez sauver ces dix personnes en poussant une autre personne sur les rails. C’est autre chose. Nous le ressentons intuitivement – et non, un ordinateur ne le fait pas.
Les règles donnent une direction, mais il faut aussi être capable de les enfreindre selon le contexte
Qu’est-ce qui est alors possible ?
« Le calcul moral que je préconise ne pense pas principalement en termes de résultats souhaités – tels que : le plus petit nombre de victimes – mais en suivant des règles. Le comportement moral est un comportement guidé par des règles. Quelles règles s’appliquent dans une situation et quelle règle doit prévaloir sur l’autre ? Nous enseignons également aux enfants comment se comporter. Les règles fournissent une direction, mais vous devez également être capable de les enfreindre en fonction du contexte. Il doit être possible d’opérationnaliser cela dans un système formel.
Pourtant, dans votre leçon inaugurale, vous êtes sceptique quant à la possibilité d’une IA puissante, des machines pour enseigner la “vraie” intelligence humaine. Pourquoi? Vous citez Wittgenstein comme support. Mais il dit aussi : nous suivons les règles aveuglément, sans y penser. Un ordinateur peut le faire aussi, n’est-ce pas ?
« Je pense qu’il manque encore quelque chose, à savoir la source morale. Chez nous c’est la raison et la communauté qui font de nous des humains. Nous apprenons et testons nos idées morales et nos intuitions les unes contre les autres, nous interprétons les règles, nous les nuançons. Les machines n’ont pas ça. Vous pouvez programmer beaucoup, mais pas de telles intuitions morales.
Ne peuvent-ils pas les développer eux-mêmes tout en apprenant ?
« Non, à mon avis, un tel système manquera toujours quelque chose. Nous restons ceux qui déterminent comment une règle doit être interprétée. Une machine ne fait finalement rien d’autre que suivre les instructions que nous lui avons données. Incidemment, cela s’applique aux machines que nous utilisons maintenant. Il n’est pas exclu que ce soit un jour possible. prendre l’informatique quantique, l’automatisation avec les connaissances de la mécanique quantique. Si vous commencez à comprendre l’intelligence et les choix moraux de manière quantique, ce sera une autre histoire. Mais c’est très spéculatif. Ce domaine est ouvert, nous en comprenons encore très peu. Je suis personnellement un non-déterministe, je pense que la réalité n’est pas complètement fixée par la loi. Mais je crois qu’en fin de compte, nous sommes des machines. Mais pas le genre de machines que nous appelons maintenant des ordinateurs.
Cette voiture ne comprendra pas quoi faire lorsque les autres usagers de la route klaxonneront
Plus pratique : comment la logique éthique peut-elle aider le fisc à éviter un nouveau scandale des allocations ?
« Je ne pense pas que cela ait grand-chose à voir avec l’IA. Il s’agit simplement de connexions statistiques établies d’une manière que nous ne trouvons pas souhaitable. Vous entrez des cas, “oui/non fraude”, puis un tel ordinateur commence à apprendre. Il recherche ensuite des corrélations entre les caractéristiques des personnes ou des fichiers, et vous ne pouvez plus désactiver cela. Vous pouvez également procéder différemment et établir à l’avance des règles sur la façon dont un ordinateur peut rechercher. Ensuite, vous pouvez les programmer de manière à ce qu’ils pèsent certaines caractéristiques ou ne les incluent pas. Dans l’état actuel des choses, vous ne savez pas comment le système apprend – et vous ne pouvez pas non plus le corriger. Oui, après à la Chambre des représentants.
La voiture autonome a des yeux, une mémoire, peut faire des choix. N’est-ce pas une IA puissante ?
“Non je ne pense pas. Cette voiture ne peut pas avoir d’émotions ni voir de sens comme nous le faisons, pas avec nos ordinateurs actuels. Il ne comprendra pas quoi faire lorsque les autres usagers de la route commenceront à répondre à un panneau disant “klaxonne si tu es content‘ dessus, comme vous pouvez le voir en Amérique. Vous pouvez bien sûr programmer quelque chose dedans, mais le comportement sera toujours différent. Pas de talonnage, oui tu peux lui apprendre ça.