{"id":82169,"date":"2022-04-10T11:54:52","date_gmt":"2022-04-10T13:54:52","guid":{"rendered":"https:\/\/teknomers.com\/fr\/il-manque-toujours-quelque-chose-a-lia\/"},"modified":"2022-04-10T11:55:00","modified_gmt":"2022-04-10T13:55:00","slug":"il-manque-toujours-quelque-chose-a-lia","status":"publish","type":"post","link":"https:\/\/teknomers.com\/fr\/il-manque-toujours-quelque-chose-a-lia\/","title":{"rendered":"&#8220;Il manque toujours quelque chose \u00e0 l&#8217;IA&#8221;"},"content":{"rendered":"\n<div>\n<p>Pouvez-vous apprendre \u00e0 un ordinateur \u00e0 ne pas mentir \u00e0 moins que la Gestapo ne soit \u00e0 la porte\u00a0?  Et comment une machine sait-elle qu&#8217;il ne s&#8217;agit pas d&#8217;agents \u00ab ordinaires \u00bb, qui dans les soci\u00e9t\u00e9s d\u00e9mocratiques sont appel\u00e9s vos meilleurs amis ?<\/p>\n<p>Eh bien, cela devrait encore \u00eatre possible, d\u00e9clare le professeur d&#8217;intelligence artificielle Jan Broersen.  C&#8217;est en fait un exemple assez simple d&#8217;une exception qui va au-dessus de la r\u00e8gle g\u00e9n\u00e9rale.  \u00ab Vous avez d\u00e9j\u00e0 des syst\u00e8mes de raisonnement formels qui peuvent traiter des r\u00e8gles que vous devez \u00e9galement \u00eatre en mesure d&#8217;enfreindre dans certaines situations.  Il y a des exemples beaucoup plus compliqu\u00e9s, des syst\u00e8mes entiers de r\u00e8gles qui interagissent.  Mais en th\u00e9orie, tout cela peut \u00eatre programm\u00e9.<\/p>\n<aside class=\"inline clearfix\">\n<h2 class=\"gn4-blockhead\">\n<span class=\"keyword\">reprendre<\/span>  Ordinateurs moraux<br \/>\n<\/h2>\n<p><strong>Jan Broersen (55 ans) a \u00e9tudi\u00e9 les math\u00e9matiques \u00e0 Delft<\/strong> et a obtenu son doctorat \u00e0 l&#8217;Universit\u00e9 libre d&#8217;Amsterdam avec une th\u00e8se sur la logique dans les syst\u00e8mes automatis\u00e9s.  Il m\u00e8ne des recherches sur la possibilit\u00e9 d&#8217;\u00e9tablir des choix moraux et la responsabilit\u00e9 dans les ordinateurs, la robotique et les syst\u00e8mes de jeu en utilisant la logique d\u00e9ontique.<\/p>\n<\/aside>\n<p>La mesure dans laquelle cela rend possible des ordinateurs \u00ab moraux \u00bb, des syst\u00e8mes automatis\u00e9s qui apprennent \u00e0 faire leurs propres choix \u2013 et \u00e0 assumer leurs responsabilit\u00e9s \u2013 est au centre des recherches de Broersen, qui a donn\u00e9 sa conf\u00e9rence inaugurale \u00e0 l&#8217;Universit\u00e9 d&#8217;Utrecht fin mars.  Form\u00e9 comme math\u00e9maticien \u00e0 Delft, il veut utiliser la logique pour essayer de d\u00e9velopper un calcul moral pour les syst\u00e8mes d&#8217;IA.<\/p>\n<p>Une telle \u00ab logique d\u00e9onique \u00bb (du grec <em>d\u00e9on<\/em>: ce qui est appropri\u00e9 ou obligatoire) est d\u00e9sesp\u00e9r\u00e9ment n\u00e9cessaire, selon lui, pour une soci\u00e9t\u00e9 qui utilise de plus en plus l&#8217;intelligence artificielle.  &#8220;Tout le monde parle d&#8217;IA et d&#8217;\u00e9thique, mais presque personne ne fait quoi que ce soit \u00e0 ce sujet.  Au moins, il est g\u00e9n\u00e9ralement abord\u00e9 comme un probl\u00e8me social ou juridique.  Voulons-nous vraiment des voitures autonomes sur la route ?  Comment devrions-nous int\u00e9grer cela l\u00e9galement?  Quand les fabricants sont-ils responsables\u00a0?\u00a0\u00bb<\/p>\n<p>Tout cela est tr\u00e8s important, dit Broersen, mais pourquoi ne pas se demander si la responsabilit\u00e9 morale peut \u00eatre programm\u00e9e dans les syst\u00e8mes d&#8217;IA eux-m\u00eames\u00a0?  &#8220;Je veux savoir : comment op\u00e9rationnalisez-vous les th\u00e9ories existantes sur l&#8217;\u00e9thique et les mettez-vous dans une machine pour qu&#8217;elle sache comment g\u00e9rer les situations dans lesquelles les consid\u00e9rations morales sont importantes.&#8221;<\/p>\n<blockquote class=\"streamer quote\">\n<p class=\"bq\">Supposons que vous puissiez sauver ces dix personnes en vous poussant mutuellement sur les rails<\/p>\n<\/blockquote>\n<p class=\"question\"><span class=\"num\">Expliquez-nous, comment mettez-vous l&#8217;\u00e9thique dans les machines\u00a0?<\/span><\/p>\n<p>\u00ab Bien s\u00fbr, cela commence par des th\u00e9ories morales tr\u00e8s diff\u00e9rentes.  Les philosophes y ont travaill\u00e9 sans fin.  Certaines th\u00e9ories sont plus faciles \u00e0 imaginer automatiser que d&#8217;autres.  Prenez l&#8217;utilitarisme, grosso modo, le point de vue selon lequel vous devriez faire ce qui produit le plus d&#8217;avantages ou de bonheur pour le plus grand nombre de personnes possible.  C&#8217;est une approche assez quantitative que vous pouvez facilement saisir dans un programme.  Cela correspond \u00e0 la fa\u00e7on dont les informaticiens pensent d\u00e9j\u00e0 l&#8217;intelligence : comme une proc\u00e9dure pour choisir des actions parmi une s\u00e9rie d&#8217;options avec un objectif clair.<\/p>\n<p class=\"question\"><span class=\"num\">Ensuite, le &#8220;probl\u00e8me du chariot&#8221; se pose.  Devez-vous laisser un chariot en fuite courir vers dix personnes pour vous assurer qu&#8217;elles sont tu\u00e9es, ou devez-vous basculer l&#8217;interrupteur sur une autre piste o\u00f9 une seule personne est tu\u00e9e\u00a0?<\/span><\/p>\n<p>\u00ab Oui, il existe de nombreuses variantes.  Vous pouvez voir que pour beaucoup de gens, l&#8217;utilitarisme est une th\u00e9orie morale insatisfaisante.  La morale est-elle vraiment un calcul aussi simple : dix victimes ou une ?  Les gens font \u00e9galement une diff\u00e9rence entre ne rien faire et intervenir activement, comme appuyer sur l&#8217;interrupteur.  Cela a des cons\u00e9quences sur la fa\u00e7on dont nous percevons la responsabilit\u00e9.  Et supposons que vous puissiez sauver ces dix personnes en poussant une autre personne sur les rails.  C&#8217;est autre chose.  Nous le ressentons intuitivement &#8211; et non, un ordinateur ne le fait pas.<\/p>\n<blockquote class=\"streamer quote\">\n<p class=\"bq\">Les r\u00e8gles donnent une direction, mais il faut aussi \u00eatre capable de les enfreindre selon le contexte<\/p>\n<\/blockquote>\n<p class=\"question\"><span class=\"num\">Qu&#8217;est-ce qui est alors possible ?<\/span><\/p>\n<p>\u00ab Le calcul moral que je pr\u00e9conise ne pense pas principalement en termes de r\u00e9sultats souhait\u00e9s \u2013 tels que : le plus petit nombre de victimes \u2013 mais en suivant des r\u00e8gles.  Le comportement moral est un comportement guid\u00e9 par des r\u00e8gles.  Quelles r\u00e8gles s&#8217;appliquent dans une situation et quelle r\u00e8gle doit pr\u00e9valoir sur l&#8217;autre ?  Nous enseignons \u00e9galement aux enfants comment se comporter.  Les r\u00e8gles fournissent une direction, mais vous devez \u00e9galement \u00eatre capable de les enfreindre en fonction du contexte.  Il doit \u00eatre possible d&#8217;op\u00e9rationnaliser cela dans un syst\u00e8me formel.<\/p>\n<p class=\"question\"><span class=\"num\">Pourtant, dans votre le\u00e7on inaugurale, vous \u00eates sceptique quant \u00e0 la possibilit\u00e9 d&#8217;une IA puissante, des machines pour enseigner la &#8220;vraie&#8221; intelligence humaine.  Pourquoi?  Vous citez Wittgenstein comme support.  Mais il dit aussi : nous suivons les r\u00e8gles aveugl\u00e9ment, sans y penser.  Un ordinateur peut le faire aussi, n&#8217;est-ce pas ?<\/span><\/p>\n<p>\u00ab Je pense qu&#8217;il manque encore quelque chose, \u00e0 savoir la source morale.  Chez nous c&#8217;est la raison et la communaut\u00e9 qui font de nous des humains.  Nous apprenons et testons nos id\u00e9es morales et nos intuitions les unes contre les autres, nous interpr\u00e9tons les r\u00e8gles, nous les nuan\u00e7ons.  Les machines n&#8217;ont pas \u00e7a.  Vous pouvez programmer beaucoup, mais pas de telles intuitions morales.<\/p>\n<p class=\"question\"><span class=\"num\">Ne peuvent-ils pas les d\u00e9velopper eux-m\u00eames tout en apprenant ?<\/span><\/p>\n<p>\u00ab Non, \u00e0 mon avis, un tel syst\u00e8me manquera toujours quelque chose.  Nous restons ceux qui d\u00e9terminent comment une r\u00e8gle doit \u00eatre interpr\u00e9t\u00e9e.  Une machine ne fait finalement rien d&#8217;autre que suivre les instructions que nous lui avons donn\u00e9es.  Incidemment, cela s&#8217;applique aux machines que nous utilisons maintenant.  Il n&#8217;est pas exclu que ce soit un jour possible.  prendre <em>l&#8217;informatique quantique<\/em>, l&#8217;automatisation avec les connaissances de la m\u00e9canique quantique.  Si vous commencez \u00e0 comprendre l&#8217;intelligence et les choix moraux de mani\u00e8re quantique, ce sera une autre histoire.  Mais c&#8217;est tr\u00e8s sp\u00e9culatif.  Ce domaine est ouvert, nous en comprenons encore tr\u00e8s peu.  Je suis personnellement un non-d\u00e9terministe, je pense que la r\u00e9alit\u00e9 n&#8217;est pas compl\u00e8tement fix\u00e9e par la loi.  Mais je crois qu&#8217;en fin de compte, nous sommes des machines.  Mais pas le genre de machines que nous appelons maintenant des ordinateurs.<\/p>\n<blockquote class=\"streamer quote\">\n<p class=\"bq\">Cette voiture ne comprendra pas quoi faire lorsque les autres usagers de la route klaxonneront<\/p>\n<\/blockquote>\n<p class=\"question\"><span class=\"num\">Plus pratique : comment la logique \u00e9thique peut-elle aider le fisc \u00e0 \u00e9viter un nouveau scandale des allocations ?<\/span><\/p>\n<p>\u00ab Je ne pense pas que cela ait grand-chose \u00e0 voir avec l&#8217;IA.  Il s&#8217;agit simplement de connexions statistiques \u00e9tablies d&#8217;une mani\u00e8re que nous ne trouvons pas souhaitable.  Vous entrez des cas, &#8220;oui\/non fraude&#8221;, puis un tel ordinateur commence \u00e0 apprendre.  Il recherche ensuite des corr\u00e9lations entre les caract\u00e9ristiques des personnes ou des fichiers, et vous ne pouvez plus d\u00e9sactiver cela.  Vous pouvez \u00e9galement proc\u00e9der diff\u00e9remment et \u00e9tablir \u00e0 l&#8217;avance des r\u00e8gles sur la fa\u00e7on dont un ordinateur peut rechercher.  Ensuite, vous pouvez les programmer de mani\u00e8re \u00e0 ce qu&#8217;ils p\u00e8sent certaines caract\u00e9ristiques ou ne les incluent pas.  Dans l&#8217;\u00e9tat actuel des choses, vous ne savez pas comment le syst\u00e8me apprend \u2013 et vous ne pouvez pas non plus le corriger.  Oui, apr\u00e8s \u00e0 la Chambre des repr\u00e9sentants.<\/p>\n<p class=\"question\"><span class=\"num\">La voiture autonome a des yeux, une m\u00e9moire, peut faire des choix.  N&#8217;est-ce pas une IA puissante ?<\/span><\/p>\n<p>&#8220;Non je ne pense pas.  Cette voiture ne peut pas avoir d&#8217;\u00e9motions ni voir de sens comme nous le faisons, pas avec nos ordinateurs actuels.  Il ne comprendra pas quoi faire lorsque les autres usagers de la route commenceront \u00e0 r\u00e9pondre \u00e0 un panneau disant &#8220;<em>klaxonne si tu es content<\/em>&#8216; dessus, comme vous pouvez le voir en Am\u00e9rique.  Vous pouvez bien s\u00fbr programmer quelque chose dedans, mais le comportement sera toujours diff\u00e9rent.  Pas de talonnage, oui tu peux lui apprendre \u00e7a.<\/p>\n<\/p><\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.nrc.nl\/nieuws\/2022\/04\/10\/er-blijft-in-ai-toch-altijd-iets-ontbreken-a4110424\" rel=\"nofollow noopener\" target=\"_blank\">ttn-fr-33<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Pouvez-vous apprendre \u00e0 un ordinateur \u00e0 ne pas mentir \u00e0 moins que la Gestapo ne soit \u00e0 la porte\u00a0? Et comment une machine sait-elle qu&#8217;il ne s&#8217;agit pas d&#8217;agents \u00ab ordinaires \u00bb, qui dans les soci\u00e9t\u00e9s d\u00e9mocratiques sont appel\u00e9s vos meilleurs amis ? Eh bien, cela devrait encore \u00eatre possible, d\u00e9clare le professeur d&#8217;intelligence artificielle [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":82170,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[10],"tags":[5746,13717,294,6037,220],"class_list":["post-82169","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-magazine","tag-chose","tag-lia","tag-manque","tag-quelque","tag-toujours"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/82169","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/comments?post=82169"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/82169\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/media\/82170"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/media?parent=82169"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/categories?post=82169"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/tags?post=82169"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}