\n<\/p>\n
“Fin du trajet”. Ce message proph\u00e9tique figure sur le bouton au plafond des centaines de taxis robots Cruise qui parcourent les rues de San Francisco. Roul\u00e9<\/em>, Tu dois dire. Apr\u00e8s un grave accident, Cruise a perdu son permis car les robots taxis ne sont pas s\u00fbrs selon le r\u00e9gulateur DMV. <\/p>\n Le 2 octobre, un passant s’est retrouv\u00e9 coinc\u00e9 sous une voiture de croisi\u00e8re sur la 5e rue. Elle venait d’\u00eatre percut\u00e9e par un autre v\u00e9hicule \u2013 et son conducteur. La voiture Cruise a \u00e9cras\u00e9 la victime, s’est arr\u00eat\u00e9e sur elle, puis s’est dirig\u00e9e vers le trottoir pour d\u00e9gager la chauss\u00e9e. La victime, hurlant de douleur, a \u00e9t\u00e9 tra\u00een\u00e9e sur plusieurs m\u00e8tres et a subi des blessures bien plus graves. <\/p>\n Le robot taxi pensait \u00e0 tort<\/a> \u00eatre frapp\u00e9 sur le c\u00f4t\u00e9. C’est pourquoi Cruise a annonc\u00e9 cette semaine qu’elle rappelait toutes ses voitures, pr\u00e8s d’un millier d’entre elles, \u00e0 cause de ce \u00ab bug logiciel \u00bb. Le constructeur automobile GM, le principal investisseur, a arr\u00eat\u00e9 la production de ces v\u00e9hicules. Un seul accident pourrait signifier la fin d\u2019une entreprise qui a perdu plus de 700 millions de dollars au dernier trimestre. D\u00e9velopper des taxis robots demande beaucoup d\u2019argent et beaucoup de patience, ce qui manque \u00e0 Cruise.<\/p>\n Les taxis robots venaient d’\u00eatre laiss\u00e9s de c\u00f4t\u00e9 : depuis ao\u00fbt, Cruise et Waymo, une spin-off de Google, sont autoris\u00e9s \u00e0 conduire leur flotte sans pilote 24 heures sur 24 et \u00e0 facturer de l’argent pour les trajets. Les entreprises technologiques doivent se d\u00e9velopper encore davantage si elles veulent un jour gagner de l\u2019argent avec leurs voitures remplies de capteurs tr\u00e8s co\u00fbteux. Les commandes co\u00fbtent \u00e9galement de l’argent : m\u00eame si personne n’est au volant, les taxis robots sont \u00e9troitement surveill\u00e9s \u00e0 distance par des \u00ab op\u00e9rateurs \u00bb humains, des anges gardiens munis d’un joystick. Selon Le New York Times<\/em> dispose d’une croisi\u00e8re en voiture un employ\u00e9 et demi<\/a> employ\u00e9s pour intervenir. <\/p>\n Ces op\u00e9rateurs ont du pain sur la planche, a remarqu\u00e9 Dariu Gavrila, professeur de v\u00e9hicules intelligents \u00e0 la TU Delft. Il a fait quelques tours de robot autour de San Francisco en mai, avec Cruise et Waymo. Il s\u2019est senti en s\u00e9curit\u00e9 tout au long du parcours et a \u00e9t\u00e9 impressionn\u00e9 par la technologie. Nous avons d\u00e9j\u00e0 le robot aspirateur, mais cela reste un moment historique : \u00ab Ce sont les premiers robots que nous rencontrons \u00e0 grande \u00e9chelle dans notre vie quotidienne. \u00bb<\/p>\n Waymo poss\u00e8de les meilleures r\u00e9f\u00e9rences en mati\u00e8re de rapports de s\u00e9curit\u00e9 et commet relativement peu d’erreurs. Cruise ne semble pas encore si loin. Lors de l’essai routier du Gavrila, les employ\u00e9s de Cruise ont d\u00fb fournir une assistance \u00e0 l’embarquement et au d\u00e9barquement. De plus, la voiture a r\u00e9agi de mani\u00e8re inattendue aux feux clignotants des services d\u2019urgence. Lors d’un virage \u00e0 gauche, le robot taxi a d\u00e9cid\u00e9 de tourner trois fois \u00e0 droite – moins dangereux et c’est ainsi que vous y arrivez.<\/p>\n Les robots taxis ne peuvent pas se permettre de commettre de graves erreurs. C’est la le\u00e7on d’Uber, le service de taxi qui a form\u00e9 des voitures autonomes en Arizona pour remplacer les chauffeurs. Uber \u00e9tait press\u00e9, n\u00e9gligent et a abandonn\u00e9 le projet apr\u00e8s un accident mortel en 2018. L’approche cowboy d’Uber\u2013 avancer vite et casser des choses<\/em> \u2013 a conduit \u00e0 un \u00e9chec d’un milliard de dollars et ce sort p\u00e8se d\u00e9sormais sur la t\u00eate de Cruise. Le scepticisme renouvel\u00e9 \u00e0 l\u2019\u00e9gard des taxis robots se refl\u00e8te \u00e9galement chez des concurrents tels que Waymo ou Zoox, un minibus sans direction d\u2019Amazon.<\/p>\n Dans la plupart des cas, les robots causent moins d\u2019accidents et de d\u00e9c\u00e8s sur la route que les humains. Il est tout simplement difficile d\u2019estimer des sc\u00e9narios exceptionnels. Peu importe la quantit\u00e9 de donn\u00e9es d’entra\u00eenement que vous collectez, le nombre de kilom\u00e8tres d’essai que vous parcourez\u00a0: il y a toujours des cas impr\u00e9vus, cas extr\u00eames<\/em>dans lequel le logiciel \u00e9chouera.<\/p>\n Selon Gavrila, cela soul\u00e8ve une question philosophique. Ce n\u2019est pas cette consid\u00e9ration \u00e9thique classique \u2013 que la voiture soit programm\u00e9e pour ramasser une vieille dame ou un landau en cas d\u2019urgence. Non, la question est de savoir quand accepterons-nous le taxi robot dans la rue. Et si, statistiquement parlant, il conduisait aussi prudemment que les humains ? Ou le taxi robot devrait-il \u00eatre dix fois plus s\u00fbr ? Si vous vous concentrez trop sur des accidents tr\u00e8s fortuits, vous perdez de vue les gains de tous les accidents \u00e9vit\u00e9s.<\/p>\n Philip Koopman, expert am\u00e9ricain en s\u00e9curit\u00e9 automobile et critique des AV (v\u00e9hicules autonomes), est en vacances depuis une semaine mais r\u00e9pond toujours au t\u00e9l\u00e9phone. Il aimerait calculer de m\u00e9moire pourquoi il pense que l’approche de Cruise est trop agressive par rapport \u00e0 celle de Waymo. Selon Cruise, l’erreur du 2 octobre se produirait moyenne<\/a> \u00ab seulement \u00bb se produisent une fois tous les 10 \u00e0 100 millions de kilom\u00e8tres. “Mais supposons que vous disposiez d’une flotte de dix mille taxis qui parcourent 200 miles chaque jour, alors statistiquement, c’est chaque semaine.” Inacceptable, dit Koopman. \u00ab C’est bien de pouvoir transporter confortablement des passagers d’un point A \u00e0 un point B. Mais la s\u00e9curit\u00e9 ne se r\u00e9sume pas aux jours o\u00f9 tout va bien. Tout d\u00e9pend de cette mauvaise journ\u00e9e et de la fr\u00e9quence \u00e0 laquelle cela arrive. <\/p>\n L’erreur de Cruise fait r\u00e9fl\u00e9chir. Un bouton pause ? En tout cas, il s’agit d’une introduction r\u00e9fl\u00e9chie des taxis robots, o\u00f9 la s\u00e9curit\u00e9 est toujours test\u00e9e et garantie, estime Dariu Gavrila. Selon lui, l’utilisation massive des robots taxis a encore des limites tant qu’ils sont programm\u00e9s avec enseignement supervis\u00e9<\/em>: les donn\u00e9es de formation reposent en grande partie sur des personnes \u00e9tiquetant \u00e0 l’avance les \u00ab\u00a0objets\u00a0\u00bb dans le trafic. Tous les pi\u00e9tons, cyclistes, voitures, passages pi\u00e9tons et feux de circulation imaginables.<\/p>\n Si vous laissiez libre cours \u00e0 l\u2019intelligence artificielle pour \u00e9valuer les donn\u00e9es, elle fonctionnerait mieux que ce que programment les humains. Mais tu en cr\u00e9es un bo\u00eete noire <\/em>sur des roues qui ne peuvent pas \u00eatre comprises et qui ne peuvent pas \u00eatre corrig\u00e9es par la suite. En plus de l\u2019IA, on peut \u00e9quiper les voitures d\u2019un deuxi\u00e8me syst\u00e8me d\u2019exploitation, beaucoup plus simple : un logiciel de base qui intervient d\u00e8s qu\u2019une collision est imminente. Comme pare-chocs au cas o\u00f9 l\u2019IA omnisciente ne le saurait plus.<\/p>\n L\u2019adoption constante des voitures autonomes contraste fortement avec la course effr\u00e9n\u00e9e \u00e0 l\u2019IA qui a \u00e9clat\u00e9 depuis l\u2019introduction de ChatGPT. Tout le monde, y compris leur m\u00e8re, utilise d\u00e9sormais l’intelligence artificielle qui invente les choses par eux-m\u00eames. Personne ne peut estimer quelles en seront les cons\u00e9quences sociales. Les optimistes roucoulent de joie \u00e0 chaque astuce apprise par leur mod\u00e8le d\u2019IA, tandis que les critiques comptent \u00e0 rebours jusqu\u2019\u00e0 Armageddon. Cela finira probablement quelque part au milieu.<\/p>\n L\u2019accident de voiture de Cruise est une m\u00e9taphore enrichissante sur la fa\u00e7on dont l\u2019IA entre dans la vie quotidienne. Comment emp\u00eacher la technologie de nous entra\u00eener involontairement dans une direction que nous ne souhaitons pas ? Nous pouvons apprendre des robots taxis. Ils doivent remplir des conditions strictes : il existe des r\u00e8gles de circulation, des permis, des surveillants dot\u00e9s de pouvoir et des employ\u00e9s dot\u00e9s de pouvoirs. mode divine<\/em>. Mais si vous faites des d\u00e9g\u00e2ts, le trajet se termine. Boum, c’est whoa.<\/p>\nAvancez vite et perdez des milliards <\/h2>\n
Une bo\u00eete noire avec pare-chocs <\/h2>\n