Amazon se prépare à relancer son assistant numérique vocal Alexa en tant qu’« agent » d’intelligence artificielle capable d’accomplir des tâches pratiques, alors que le groupe technologique s’efforce de résoudre les défis qui ont entravé la refonte de l’IA du système.
L’entreprise, estimée à 2 400 milliards de dollars, cherche depuis deux ans à repenser Alexa, son système conversationnel intégré à 500 millions d’appareils grand public dans le monde, afin que le « cerveau » du logiciel soit transplanté avec une IA générative.
Rohit Prasad, qui dirige l’équipe d’intelligence artificielle générale (AGI) chez Amazon, a déclaré au Financial Times que l’assistant vocal devait encore surmonter plusieurs obstacles techniques avant son déploiement.
Cela inclut la résolution du problème des « hallucinations » ou des réponses fabriquées, de sa vitesse de réponse ou « latence » et de sa fiabilité. “Les hallucinations doivent être proches de zéro”, a déclaré Prasad. “C’est toujours un problème ouvert dans l’industrie, mais nous y travaillons extrêmement dur.”
La vision des dirigeants d’Amazon est de transformer Alexa, qui est actuellement encore utilisée pour un ensemble restreint de tâches simples telles que la lecture de musique et le réglage d’alarmes, en un produit « agent » agissant comme un concierge personnalisé. Cela peut aller de la suggestion de restaurants à la configuration des lumières de la chambre en fonction des cycles de sommeil d’une personne.
La refonte d’Alexa est en cours depuis le lancement de ChatGPT d’OpenAI, soutenu par Microsoft, fin 2022. Alors que Microsoft, Google, Meta et d’autres ont rapidement intégré l’IA générative dans leurs plates-formes informatiques et amélioré leurs services logiciels, les critiques se demandent si Amazon peut résoudre ses difficultés techniques et organisationnelles à temps pour rivaliser avec ses rivaux.
Selon plusieurs membres du personnel qui ont travaillé dans les équipes d’assistants vocaux d’Amazon ces dernières années, ses efforts ont été semés d’embûches et font suite à des années de recherche et de développement en matière d’IA.
Plusieurs anciens travailleurs ont déclaré que la longue attente pour un déploiement était en grande partie due aux difficultés inattendues liées au changement et à la combinaison des algorithmes prédéfinis plus simples sur lesquels Alexa a été construite, avec de grands modèles de langage plus puissants mais imprévisibles.
En réponse, Amazon a déclaré qu’il « travaillait dur pour permettre une assistance encore plus proactive et performante » de son assistant vocal. Il a ajouté qu’une mise en œuvre technique de cette ampleur, dans un service en direct et une suite d’appareils utilisés par des clients du monde entier, était sans précédent et n’était pas aussi simple que de superposer un LLM au service Alexa.
Prasad, l’ancien architecte en chef d’Alexa, a déclaré que la sortie le mois dernier des modèles internes Amazon Nova de l’entreprise – dirigés par son équipe AGI – était en partie motivée par les besoins spécifiques d’une vitesse, d’un coût et d’une fiabilité optimaux, afin d’aider l’IA. des applications telles qu’Alexa « atteignent ce dernier kilomètre, ce qui est vraiment difficile ».
Pour fonctionner en tant qu’agent, le « cerveau » d’Alexa doit être capable d’appeler des centaines de logiciels et de services tiers, a déclaré Prasad.
« Parfois, nous sous-estimons le nombre de services intégrés à Alexa, et c’est un nombre énorme. Ces applications reçoivent des milliards de requêtes par semaine. Ainsi, lorsque vous essayez de réaliser des actions fiables et rapides, . . . il faut pouvoir le faire de manière très rentable », a-t-il ajouté.
La complexité vient du fait que les utilisateurs d’Alexa attendent des réponses rapides ainsi que des niveaux de précision extrêmement élevés. De telles qualités sont en contradiction avec la nature probabiliste inhérente à l’IA générative actuelle, un logiciel statistique qui prédit les mots en fonction de modèles de parole et de langage.
Certains anciens employés soulignent également les difficultés rencontrées pour préserver les attributs d’origine de l’assistant, notamment sa cohérence et ses fonctionnalités, tout en lui conférant de nouvelles fonctionnalités génératives telles que la créativité et la fluidité des dialogues.
En raison de la nature plus personnalisée et bavarde des LLM, la société prévoit également d’embaucher des experts pour façonner la personnalité, la voix et la diction de l’IA afin qu’elle reste familière aux utilisateurs d’Alexa, selon une personne proche du dossier.
Un ancien membre senior de l’équipe Alexa a déclaré que même si les LLM étaient très sophistiqués, ils comportent des risques, comme celui de produire des réponses qui sont « parfois complètement inventées ».
« À l’échelle où Amazon opère, cela pourrait se produire un grand nombre de fois par jour », ont-ils déclaré, nuisant à sa marque et à sa réputation.
En juin, Mihail Eric, ancien scientifique en apprentissage automatique chez Alexa et membre fondateur de son « équipe de modélisation conversationnelle », dit publiquement qu’Amazon avait « laissé tomber la balle » en devenant « le leader incontesté du marché de l’IA conversationnelle » avec Alexa.
Eric a déclaré qu’en dépit de ses solides talents scientifiques et de ses « énormes » ressources financières, l’entreprise était « en proie à des problèmes techniques et bureaucratiques », suggérant que « les données étaient mal annotées » et que « la documentation était soit inexistante, soit obsolète ».
Selon deux anciens employés travaillant sur l’IA liée à Alexa, la technologie historique qui sous-tend l’assistant vocal était rigide et difficile à modifier rapidement, alourdie par une base de code encombrante et désorganisée et une équipe d’ingénierie « trop dispersée ».
Le logiciel Alexa original, construit sur la technologie acquise auprès de la start-up britannique Evi en 2012, était un répondeur de questions qui fonctionnait en recherchant dans un univers défini de faits pour trouver la bonne réponse, comme la météo du jour ou un événement spécifique. chanson dans votre bibliothèque musicale.
La nouvelle Alexa utilise un bouquet de différents modèles d’IA pour reconnaître et traduire les requêtes vocales et générer des réponses, ainsi que pour identifier les violations des politiques, telles que la détection de réponses inappropriées et d’hallucinations. La création de logiciels permettant la traduction entre les systèmes existants et les nouveaux modèles d’IA a constitué un obstacle majeur à l’intégration d’Alexa-LLM.
Les modèles incluent les logiciels internes d’Amazon, dont les derniers modèles Nova, ainsi que Claude, le modèle d’IA de la start-up Anthropic, dans laquelle Amazon a investi 8 milliards de dollars au cours des 18 derniers mois.
“[T]”Le plus grand défi avec les agents d’IA est de s’assurer qu’ils sont sûrs, fiables et prévisibles”, a déclaré le directeur général d’Anthropic, Dario Amodei, au FT l’année dernière.
Les logiciels d’IA de type agent doivent arriver au point « où… ». . . les gens peuvent réellement avoir confiance dans le système », a-t-il ajouté. “Une fois arrivés à ce point, nous publierons ces systèmes.”
Un employé actuel a déclaré que d’autres étapes étaient encore nécessaires, telles que la superposition de filtres de sécurité pour enfants et le test d’intégrations personnalisées avec Alexa, telles que les lumières intelligentes et la sonnette Ring.
« Le problème est la fiabilité : faire en sorte qu’il fonctionne près de 100 % du temps », a ajouté l’employé. « C’est pourquoi vous nous voyez. . . ou Apple ou Google expédiant lentement et progressivement.
De nombreux tiers développant des « compétences » ou des fonctionnalités pour Alexa ont déclaré qu’ils ne savaient pas quand le nouveau dispositif compatible avec l’IA générative serait déployé ni comment créer de nouvelles fonctions pour celui-ci.
“Nous attendons les détails et la compréhension”, a déclaré Thomas Lindgren, co-fondateur du développeur de contenu suédois Wanderword. « Lorsque nous avons commencé à travailler avec eux, ils étaient beaucoup plus ouverts. . . puis avec le temps, ils ont changé.
Un autre partenaire a déclaré qu’après une première période de « pression » exercée par Amazon sur les développeurs pour qu’ils commencent à se préparer à la prochaine génération d’Alexa, les choses étaient devenues calmes.
Un défi persistant pour l’équipe Alexa d’Amazon – qui a été frappée par d’importants licenciements en 2023 – est de savoir comment gagner de l’argent. Trouver comment rendre les assistants « suffisamment bon marché pour fonctionner à grande échelle » sera une tâche majeure, a déclaré Jared Roesch, co-fondateur du groupe d’IA générative OctoAI.
Les options en discussion incluent la création d’un nouveau service d’abonnement Alexa ou la réduction des ventes de biens et services, a déclaré un ancien employé d’Alexa.
Prasad a déclaré que l’objectif d’Amazon était de créer une variété de modèles d’IA qui pourraient servir de « éléments de base » pour une variété d’applications au-delà d’Alexa.
“Ce sur quoi nous nous appuyons toujours, ce sont les clients et l’IA pratique, nous ne faisons pas de science pour le plaisir de la science”, a déclaré Prasad. « Nous faisons cela. . . pour offrir de la valeur et un impact au client, ce qui, à l’ère de l’IA générative, devient plus important que jamais car les clients veulent voir un retour sur investissement.