\n<\/p>\n
L’une des fa\u00e7ons dont mon partenaire et moi sommes bien adapt\u00e9s est que nous aimons tous les deux les jeux de soci\u00e9t\u00e9, et je ne suis pas tr\u00e8s dou\u00e9 pour eux. Cela aide, car mon partenaire est un gagnant gracieux mais un perdant \u00e9pouvantable. Une fois, au d\u00e9but de son adolescence, lors d’une partie de dames avec sa s\u0153ur, elle a r\u00e9pondu \u00e0 une position impossible \u00e0 gagner en retournant la table.<\/p>\n
Si l’intelligence artificielle d\u00e9truit la vie humaine, cela ressemblera certainement plus \u00e0 la r\u00e9action de mon partenaire face \u00e0 la d\u00e9faite qu’\u00e0 l’intelligence destructrice du Terminateur <\/em>films. La catastrophe ne surviendra pas lorsqu’une intelligence sophistiqu\u00e9e d\u00e9cidera d’utiliser son pouvoir pour un mal d\u00e9lib\u00e9r\u00e9, mais lorsque le moyen le plus simple d’accomplir sa programmation et de “gagner” sera de renverser la table. <\/p>\n La menace que l’intelligence artificielle provoque une sorte de catastrophe soci\u00e9tale est, bien s\u00fbr, une raison pour laquelle nous devrions nous pr\u00e9occuper de la recherche, de l’\u00e9thique et de la transparence. Mais cette concentration sur le potentiel de catastrophe peut parfois d\u00e9tourner l’attention des dangers les plus banals. Si votre GPS vous dirige vers le bord d’une falaise, comme il l’a fait en 2009, lorsque Robert Jones a \u00e9t\u00e9 condamn\u00e9 pour ne pas avoir conduit avec la prudence et l’attention requises, il ne s’agit pas d’une trag\u00e9die au niveau de la soci\u00e9t\u00e9. Mais il peut s’agir d’un probl\u00e8me personnel s’il vous fait perdre la vie, votre emploi ou m\u00eame simplement votre permis de conduire. <\/p>\n Une cons\u00e9quence malheureuse des pr\u00e9dictions d\u00e9sastreuses constantes sur les pires cons\u00e9quences absolues de l’intelligence artificielle ou des programmes d’apprentissage automatique est qu’ils encouragent une sorte de complaisance \u00ab eh bien, ils ne nous ont pas encore tu\u00e9s \u00bb quant \u00e0 leur pr\u00e9valence actuelle dans les politiques publiques et la prise de d\u00e9cision commerciale. . <\/p>\n Un probl\u00e8me plus courant est que, pour les d\u00e9cideurs politiques comme pour les chefs d’entreprise, le mot \u00ab algorithme \u00bb peut parfois \u00eatre impr\u00e9gn\u00e9 de pouvoirs magiques. Un bon exemple r\u00e9cent est la tentative vou\u00e9e \u00e0 l’\u00e9chec du gouvernement britannique d’attribuer des notes aux \u00e9tudiants pendant la pand\u00e9mie. Mais un algorithme n’est qu’un ensemble de donn\u00e9es aliment\u00e9es par des r\u00e8gles ou des formules math\u00e9matiques pour produire un r\u00e9sultat. Comme aucun \u00e9tudiant britannique qui passait son GCSE ou son A-level n’avait beaucoup de donn\u00e9es significatives sur ses propres performances, \u00abl’algorithme\u00bb du Royaume-Uni \u00e9tait essentiellement arbitraire au niveau individuel. Le r\u00e9sultat a \u00e9t\u00e9 un toll\u00e9 public, un algorithme abandonn\u00e9 et une inflation rampante des notes. <\/p>\n L’utilisation la plus inqui\u00e9tante des algorithmes dans les politiques est ce qu’on appelle les \u00abalgorithmes de bo\u00eete noire\u00bb: ceux dans lesquels les entr\u00e9es et les processus sont cach\u00e9s \u00e0 la vue du public. Cela peut \u00eatre d\u00fb au fait qu’elles sont consid\u00e9r\u00e9es comme des informations exclusives\u00a0: par exemple, les facteurs qui sous-tendent le syst\u00e8me Compas, utilis\u00e9 aux \u00c9tats-Unis pour mesurer la probabilit\u00e9 de r\u00e9cidive, ne sont pas accessibles au public car ils sont trait\u00e9s comme la propri\u00e9t\u00e9 de l’entreprise. <\/p>\n Cela pose in\u00e9vitablement des probl\u00e8mes pour la d\u00e9mocratie. Tout syst\u00e8me con\u00e7u pour mesurer la probabilit\u00e9 qu’une personne r\u00e9cidive doit faire un choix entre lib\u00e9rer ceux qui pourraient en fait r\u00e9cidiver ou continuer \u00e0 emprisonner les personnes pr\u00eates \u00e0 devenir des membres productifs de la soci\u00e9t\u00e9. Il n’y a pas de “bonne” ou de “juste” r\u00e9ponse ici\u00a0: les algorithmes peuvent fa\u00e7onner votre prise de d\u00e9cision, mais le jugement est en fin de compte celui qui doit \u00eatre port\u00e9 par les politiciens et, indirectement, leurs \u00e9lecteurs. <\/p>\n Comme l’a observ\u00e9 le statisticien David Spiegelhalter, il n’y a pas de diff\u00e9rence pratique entre les juges utilisant des algorithmes et les juges suivant les lignes directrices en mati\u00e8re de d\u00e9termination de la peine. La diff\u00e9rence importante est uniquement et significativement que les lignes directrices en mati\u00e8re de d\u00e9termination de la peine sont clairement comprises, accessibles au public et soumises \u00e0 un d\u00e9bat d\u00e9mocratique. <\/p>\n L’algorithme d’examen condamn\u00e9 du Royaume-Uni n’\u00e9tait pas une \u00abbo\u00eete noire\u00bb en raison des lois sur la propri\u00e9t\u00e9 intellectuelle ou du d\u00e9sir d’une entreprise de prot\u00e9ger ses int\u00e9r\u00eats, mais le r\u00e9sultat de la pr\u00e9f\u00e9rence par d\u00e9faut de l’\u00c9tat britannique pour une prise de d\u00e9cision opaque. Si les rouages \u200b\u200bdu processus avaient \u00e9t\u00e9 mis \u00e0 disposition plus t\u00f4t, l’opposition politique \u00e0 celui-ci serait devenue claire \u00e0 temps pour trouver une solution plus acceptable. <\/p>\n L’autre forme d’algorithme de bo\u00eete noire est celle dans laquelle les informations sont accessibles au public mais trop complexes pour \u00eatre facilement comprises. Ceci, encore une fois, peut avoir des implications d\u00e9sastreuses. Si l’algorithme qui d\u00e9cide qui est licenci\u00e9 ne peut pas \u00eatre raisonnablement compris par les employ\u00e9s ou, en fait, les employeurs, alors c’est un outil m\u00e9diocre pour les managers et qui cause du m\u00e9contentement. En politique publique, si les r\u00e9sultats d’un algorithme sont trop complexes, ils peuvent brouiller le d\u00e9bat au lieu d’aider les d\u00e9cideurs politiques \u00e0 prendre de meilleures d\u00e9cisions. <\/p>\n Spiegelhalter propose un processus en quatre phases pour les algorithmes et l’apprentissage automatique dans les politiques publiques et le lieu de travail, comparable au processus que les produits pharmaceutiques britanniques doivent suivre pour \u00eatre approuv\u00e9s. L’une des raisons pour lesquelles ce plan est bon est qu’il pourrait \u00e9viter une erreur de fin du monde : mais il pourrait \u00e9galement \u00e9viter des trag\u00e9dies mineures et des \u00e9checs de politique publique.<\/p>\n