\n<\/p>\n
La conjoncture actuelle est “l’un de ces moments auxquels tout le monde veut participer”, d\u00e9clare Ben Zevenbergen, conseiller en \u00e9thique de Google. C’est ainsi que les fondateurs de Google, Larry Page et Sergey Brin – normalement actifs uniquement en arri\u00e8re-plan chez Google – ont r\u00e9cemment rejoint les r\u00e9unions importantes sur la strat\u00e9gie d’IA de Google. “Des disciplines enti\u00e8res peuvent \u00eatre r\u00e9invent\u00e9es par l’intelligence artificielle”, d\u00e9clare Zevenbergen, lors d’une conversation au bureau de Google \u00e0 Amsterdam. “C’est un moment tellement int\u00e9ressant que tout le monde veut se joindre \u00e0 la conversation.”<\/p>\n
Depuis 2020, Zevenbergen est impliqu\u00e9 dans son r\u00f4le de conseiller dans tous les lancements de produits importants de l’entreprise technologique am\u00e9ricaine. De plus, il est responsable de “l’opposition”, dit Zevenbergen. Il doit s’assurer que ce que les ing\u00e9nieurs de Google d\u00e9veloppent est \u00e9galement conforme aux Principes de l’IA<\/a> mis en place par la soci\u00e9t\u00e9. Dans ce document, Google d\u00e9clare, entre autres, que tous ses produits d’IA doivent “b\u00e9n\u00e9ficier \u00e0 la soci\u00e9t\u00e9” et ne doivent pas conduire \u00e0 des pr\u00e9jug\u00e9s ou \u00e0 des violations de la vie priv\u00e9e. <\/p>\n Zevenbergen en \u00e9tait l’un des auteurs Papier LaMDA<\/a>, paru en f\u00e9vrier de l’ann\u00e9e derni\u00e8re et dans lequel Google a pr\u00e9sent\u00e9 pour la premi\u00e8re fois son mod\u00e8le linguistique. Cette technologie est \u00e0 la base de la premi\u00e8re version du chatbot Bard de Google, qui est sorti au Royaume-Uni et aux \u00c9tats-Unis en mars. \u00c0 partir de ce jeudi, le chatbot sera \u00e9galement disponible aux Pays-Bas et dans d’autres pays de l’UE. <\/p>\n Le lancement europ\u00e9en de Bard a \u00e9t\u00e9 report\u00e9 apr\u00e8s des questions du r\u00e9gulateur irlandais Data Protection Commission (DPC), qui surveille l’application des r\u00e8gles europ\u00e9ennes de confidentialit\u00e9 dans les principales pr\u00e9occupations technologiques. Le DPC a constat\u00e9 que Google avait fourni une “documentation insuffisante” pour garantir la confidentialit\u00e9 des utilisateurs. Google s’est d\u00e9sormais conform\u00e9 aux conditions de l’UE. Entre autres choses, les utilisateurs auront la possibilit\u00e9 de visualiser leur activit\u00e9 dans Bard ou de la supprimer de leur compte. <\/p>\n Bard est le r\u00e9sultat d’ann\u00e9es de recherche et d’exp\u00e9rimentation dans la technologie de l’IA. De plus, Google a longtemps occup\u00e9 une position non menac\u00e9e. Ses chercheurs ont d\u00e9velopp\u00e9 le premier en 2017 transformateurs<\/em>. Ces r\u00e9seaux de neurones super intelligents sont cruciaux pour les ordinateurs vocaux et les chatbots. Jusque-l\u00e0, les ordinateurs \u00e9taient particuli\u00e8rement efficaces pour traduire litt\u00e9ralement des textes d’une langue \u00e0 une autre. Les transformateurs ont \u00e9galement permis aux ordinateurs de comprendre le contexte des phrases et sont devenus capables de tenir des conversations.<\/p>\n En fin de compte, ce n’est pas Google, mais OpenAI de San Francisco qui a lanc\u00e9 le premier d’une nouvelle g\u00e9n\u00e9ration de chatbots IA avec ChatGPT en novembre de l’ann\u00e9e derni\u00e8re. ChatGPT, bas\u00e9 sur la technologie Transformer de Google, a \u00e9t\u00e9 le premier \u00e0 \u00e9crire des pi\u00e8ces de th\u00e9\u00e2tre, \u00e0 composer des po\u00e8mes, \u00e0 produire et \u00e0 programmer des textes pour des sites Web. <\/p>\n ChatGPT a d\u00e9clench\u00e9 un battage m\u00e9diatique mondial. Le r\u00e9seau de neurones sous-jacent GPT-4 est d\u00e9sormais utilis\u00e9 par d’innombrables entreprises pour automatiser des t\u00e2ches. Pensez \u00e0 r\u00e9diger des textes ou \u00e0 r\u00e9pondre automatiquement aux e-mails, aux assistants num\u00e9riques ou \u00e0 num\u00e9riser et \u00e9valuer les lettres de candidature. Le battage m\u00e9diatique autour de ChatGPT a forc\u00e9 d’autres entreprises technologiques \u00e0 revoir ou \u00e0 acc\u00e9l\u00e9rer leur strat\u00e9gie d’IA afin de ne pas prendre de retard dans la course aux derni\u00e8res technologies. <\/p>\n Chez Google, l’arriv\u00e9e de ChatGPT a provoqu\u00e9 une panique interne, m\u00eame si le PDG de Google, Sundar Pichai, a pr\u00e9f\u00e9r\u00e9 parler “d’un sentiment d’urgence”. Les \u00e9quipes de Google ont \u00e9t\u00e9 invit\u00e9es par le sommet \u00e0 se d\u00e9p\u00eacher avec le d\u00e9veloppement de Bard. Lors de la pr\u00e9sentation de Bard en f\u00e9vrier, le chatbot a commis une erreur factuelle embarrassante lors de la d\u00e9monstration. Bard, en r\u00e9ponse \u00e0 une question, a d\u00e9clar\u00e9 \u00e0 tort que la premi\u00e8re image d’une plan\u00e8te en dehors de notre syst\u00e8me solaire avait \u00e9t\u00e9 prise par le t\u00e9lescope James Webb. Pichai a d\u00e9clar\u00e9 plus tard dans un podcast de Le New York Times<\/a><\/em> que la premi\u00e8re version de Bard donnait l’impression que Google “mettait une Civic gonfl\u00e9e dans une course avec des voitures plus puissantes”. La derni\u00e8re version de Bard est nettement meilleure, selon les premiers tests effectu\u00e9s par des journalistes am\u00e9ricains. Bard est directement connect\u00e9 \u00e0 Internet et dispose donc des informations les plus r\u00e9centes disponibles, tandis que ChatGPT ne dispose d’aucune donn\u00e9e sur les \u00e9v\u00e9nements apr\u00e8s 2021. <\/p>\n Les deux programmes souffrent n\u00e9anmoins de ce que les scientifiques appellent des \u00ab\u00a0hallucinations\u00a0\u00bb\u00a0: des chatbots qui inventent des faits. C’est l’un des probl\u00e8mes les plus difficiles \u00e0 r\u00e9soudre pour les chatbots, Google ayant l’avantage d’avoir un acc\u00e8s permanent \u00e0 tout l’internet via le moteur de recherche. “Nous pouvons tester assez efficacement si les r\u00e9ponses sont bas\u00e9es sur des sources existantes et si elles sont effectivement correctes”, d\u00e9clare Zevenbergen. <\/p>\n Google reconna\u00eet<\/a> que Bard “donne parfois des r\u00e9ponses incorrectes” ou peut faire des “d\u00e9clarations offensantes”. Il essaie un certain parti pris (biais<\/em>) en offrant aux utilisateurs plus de perspectives. Et plus Bard est utilis\u00e9, mieux il obtiendra ses r\u00e9ponses, ou du moins c’est l’id\u00e9e.<\/p>\n Selon Zevenbergen, Google aurait pu lancer Bard “il y a deux ou trois ans”, mais la technologie n’est que maintenant suffisamment fiable pour \u00eatre exp\u00e9riment\u00e9e en direct. \u00ab Nous r\u00e9fl\u00e9chissons s\u00e9rieusement aux principes \u00e9thiques qui sous-tendent le type de syst\u00e8mes que nous voulons mettre au monde. Et la vitesse n’en fait pas partie \u00bb, d\u00e9clare Zevenbergen. \u00ab Je ne vois pas cela comme une course pour \u00eatre le premier \u00e0 mettre au monde un gadget technique. Google n’\u00e9tait pas le premier moteur de recherche, mais au final c’\u00e9tait le meilleur.”<\/p>\n \t\tEn savoir plus sur la fa\u00e7on dont l’Europe veut r\u00e9glementer l’IA\u00a0: “Le Parlement europ\u00e9en veut des r\u00e8gles strictes pour l’IA – \u00e9galement pour ChatGPT”<\/strong> Pourtant, on s’inqui\u00e8te \u2013 \u00e9galement au sein de Google \u2013 de la vitesse \u00e0 laquelle l’IA se d\u00e9veloppe. La crainte est que des parties malveillantes utilisent les syst\u00e8mes d’IA pour les fausses nouvelles et la cybercriminalit\u00e9. L’essor de l’IA risque d’entra\u00eener la disparition d’emplois. L’industrie cr\u00e9ative se pr\u00e9pare \u00e0 une s\u00e9rie de poursuites, car les soci\u00e9t\u00e9s d’IA violent le droit d’auteur en utilisant des textes et des images sur Internet pour former leurs mod\u00e8les. <\/p>\n Ces derniers mois, d’\u00e9minents scientifiques de l’IA ont appel\u00e9 \u00e0 une “pause de d\u00e9veloppement” de la technologie par le biais de diverses p\u00e9titions. Selon les signataires, avant que les entreprises n’entrent sur le march\u00e9 avec toutes sortes de syst\u00e8mes d’IA, les gouvernements doivent d’abord \u00e9tablir des r\u00e8gles sur la mani\u00e8re dont la soci\u00e9t\u00e9 souhaite utiliser l’IA.<\/p>\n Tous les hauts dirigeants des entreprises technologiques se sont d\u00e9sormais prononc\u00e9s en faveur d’une r\u00e9glementation gouvernementale accrue. Des hauts dirigeants d’OpenAI et de Google se sont rendus \u00e0 Bruxelles ces derniers mois pour montrer qu’ils aimeraient apporter des id\u00e9es sur la loi sur l’IA, la principale loi europ\u00e9enne sur l’IA actuellement en cours de mise en \u0153uvre. La loi d\u00e9terminera comment les entreprises technologiques peuvent utiliser l’IA en Europe. <\/p>\n La grande question\u00a0: dans quelle mesure une entreprise comme Google elle-m\u00eame peut-elle assumer la responsabilit\u00e9 de traiter de mani\u00e8re responsable une technologie qui a le potentiel d’avoir un impact \u00e9norme sur l’humanit\u00e9\u00a0? La moiti\u00e9 des scientifiques de l’IA estiment \u00e0 au moins 10% le risque que l’IA conduise \u00e0 un “r\u00e9sultat extr\u00eamement mauvais” pour l’humanit\u00e9 \u00e0 au moins 10%, selon une \u00e9tude de l’ann\u00e9e derni\u00e8re. un sondage<\/a>. En mai, l’\u00e9minent scientifique en IA Geoffrey Hinton a quitt\u00e9 Google pour parler des dangers de l’IA. Il a d\u00e9clar\u00e9 que l’IA prend d\u00e9sormais principalement en charge les \u00abt\u00e2ches abrutissantes\u00bb des gens, \u00abmais peut-\u00eatre beaucoup plus \u00e0 l’avenir\u00bb. <\/p>\n Zevenbergen d\u00e9clare qu’il “passe \u00e0 c\u00f4t\u00e9 de la nuance” lorsqu’il s’agit de telles p\u00e9titions avec des concepts tels que “risque existentiel”. “Bien s\u00fbr, cela pourrait pr\u00e9senter un risque pour l’humanit\u00e9. Il est tr\u00e8s peu probable que cela se produise, mais c’est un sc\u00e9nario que nous prenons en compte \u00bb, dit-il. \u00ab Nous sommes maintenant dans une situation o\u00f9 nous pouvons g\u00e9rer tout cela correctement. Construire des sc\u00e9narios qui sont d\u00e9sirables.<\/p>\n“Panique interne”<\/h2>\n
\n<\/span><\/p>\nFausses nouvelles et cybercriminalit\u00e9<\/h2>\n