« Fin du trajet ». Ce message prophétique figure sur le bouton au plafond des centaines de taxis robots Cruise qui parcourent les rues de San Francisco. Roulé, Tu dois dire. Après un grave accident, Cruise a perdu son permis car les robots taxis ne sont pas sûrs selon le régulateur DMV.
Le 2 octobre, un passant s’est retrouvé coincé sous une voiture de croisière sur la 5e rue. Elle venait d’être percutée par un autre véhicule – et son conducteur. La voiture Cruise a écrasé la victime, s’est arrêtée sur elle, puis s’est dirigée vers le trottoir pour dégager la chaussée. La victime, hurlant de douleur, a été traînée sur plusieurs mètres et a subi des blessures bien plus graves.
Le robot taxi pensait à tort être frappé sur le côté. C’est pourquoi Cruise a annoncé cette semaine qu’elle rappelait toutes ses voitures, près d’un millier d’entre elles, à cause de ce « bug logiciel ». Le constructeur automobile GM, le principal investisseur, a arrêté la production de ces véhicules. Un seul accident pourrait signifier la fin d’une entreprise qui a perdu plus de 700 millions de dollars au dernier trimestre. Développer des taxis robots demande beaucoup d’argent et beaucoup de patience, ce qui manque à Cruise.
Les taxis robots venaient d’être laissés de côté : depuis août, Cruise et Waymo, une spin-off de Google, sont autorisés à conduire leur flotte sans pilote 24 heures sur 24 et à facturer de l’argent pour les trajets. Les entreprises technologiques doivent se développer encore davantage si elles veulent un jour gagner de l’argent avec leurs voitures remplies de capteurs très coûteux. Les commandes coûtent également de l’argent : même si personne n’est au volant, les taxis robots sont étroitement surveillés à distance par des « opérateurs » humains, des anges gardiens munis d’un joystick. Selon Le New York Times dispose d’une croisière en voiture un employé et demi employés pour intervenir.
Ces opérateurs ont du pain sur la planche, a remarqué Dariu Gavrila, professeur de véhicules intelligents à la TU Delft. Il a fait quelques tours de robot autour de San Francisco en mai, avec Cruise et Waymo. Il s’est senti en sécurité tout au long du parcours et a été impressionné par la technologie. Nous avons déjà le robot aspirateur, mais cela reste un moment historique : « Ce sont les premiers robots que nous rencontrons à grande échelle dans notre vie quotidienne. »
Waymo possède les meilleures références en matière de rapports de sécurité et commet relativement peu d’erreurs. Cruise ne semble pas encore si loin. Lors de l’essai routier du Gavrila, les employés de Cruise ont dû fournir une assistance à l’embarquement et au débarquement. De plus, la voiture a réagi de manière inattendue aux feux clignotants des services d’urgence. Lors d’un virage à gauche, le robot taxi a décidé de tourner trois fois à droite – moins dangereux et c’est ainsi que vous y arrivez.
Avancez vite et perdez des milliards
Les robots taxis ne peuvent pas se permettre de commettre de graves erreurs. C’est la leçon d’Uber, le service de taxi qui a formé des voitures autonomes en Arizona pour remplacer les chauffeurs. Uber était pressé, négligent et a abandonné le projet après un accident mortel en 2018. L’approche cowboy d’Uber– avancer vite et casser des choses – a conduit à un échec d’un milliard de dollars et ce sort pèse désormais sur la tête de Cruise. Le scepticisme renouvelé à l’égard des taxis robots se reflète également chez des concurrents tels que Waymo ou Zoox, un minibus sans direction d’Amazon.
Dans la plupart des cas, les robots causent moins d’accidents et de décès sur la route que les humains. Il est tout simplement difficile d’estimer des scénarios exceptionnels. Peu importe la quantité de données d’entraînement que vous collectez, le nombre de kilomètres d’essai que vous parcourez : il y a toujours des cas imprévus, cas extrêmesdans lequel le logiciel échouera.
Selon Gavrila, cela soulève une question philosophique. Ce n’est pas cette considération éthique classique – que la voiture soit programmée pour ramasser une vieille dame ou un landau en cas d’urgence. Non, la question est de savoir quand accepterons-nous le taxi robot dans la rue. Et si, statistiquement parlant, il conduisait aussi prudemment que les humains ? Ou le taxi robot devrait-il être dix fois plus sûr ? Si vous vous concentrez trop sur des accidents très fortuits, vous perdez de vue les gains de tous les accidents évités.
Philip Koopman, expert américain en sécurité automobile et critique des AV (véhicules autonomes), est en vacances depuis une semaine mais répond toujours au téléphone. Il aimerait calculer de mémoire pourquoi il pense que l’approche de Cruise est trop agressive par rapport à celle de Waymo. Selon Cruise, l’erreur du 2 octobre se produirait moyenne « seulement » se produisent une fois tous les 10 à 100 millions de kilomètres. « Mais supposons que vous disposiez d’une flotte de dix mille taxis qui parcourent 200 miles chaque jour, alors statistiquement, c’est chaque semaine. » Inacceptable, dit Koopman. « C’est bien de pouvoir transporter confortablement des passagers d’un point A à un point B. Mais la sécurité ne se résume pas aux jours où tout va bien. Tout dépend de cette mauvaise journée et de la fréquence à laquelle cela arrive.
Une boîte noire avec pare-chocs
L’erreur de Cruise fait réfléchir. Un bouton pause ? En tout cas, il s’agit d’une introduction réfléchie des taxis robots, où la sécurité est toujours testée et garantie, estime Dariu Gavrila. Selon lui, l’utilisation massive des robots taxis a encore des limites tant qu’ils sont programmés avec enseignement supervisé: les données de formation reposent en grande partie sur des personnes étiquetant à l’avance les « objets » dans le trafic. Tous les piétons, cyclistes, voitures, passages piétons et feux de circulation imaginables.
Si vous laissiez libre cours à l’intelligence artificielle pour évaluer les données, elle fonctionnerait mieux que ce que programment les humains. Mais tu en crées un boîte noire sur des roues qui ne peuvent pas être comprises et qui ne peuvent pas être corrigées par la suite. En plus de l’IA, on peut équiper les voitures d’un deuxième système d’exploitation, beaucoup plus simple : un logiciel de base qui intervient dès qu’une collision est imminente. Comme pare-chocs au cas où l’IA omnisciente ne le saurait plus.
L’adoption constante des voitures autonomes contraste fortement avec la course effrénée à l’IA qui a éclaté depuis l’introduction de ChatGPT. Tout le monde, y compris leur mère, utilise désormais l’intelligence artificielle qui invente les choses par eux-mêmes. Personne ne peut estimer quelles en seront les conséquences sociales. Les optimistes roucoulent de joie à chaque astuce apprise par leur modèle d’IA, tandis que les critiques comptent à rebours jusqu’à Armageddon. Cela finira probablement quelque part au milieu.
L’accident de voiture de Cruise est une métaphore enrichissante sur la façon dont l’IA entre dans la vie quotidienne. Comment empêcher la technologie de nous entraîner involontairement dans une direction que nous ne souhaitons pas ? Nous pouvons apprendre des robots taxis. Ils doivent remplir des conditions strictes : il existe des règles de circulation, des permis, des surveillants dotés de pouvoir et des employés dotés de pouvoirs. mode divine. Mais si vous faites des dégâts, le trajet se termine. Boum, c’est whoa.