Le phénomène du tokenmaxxing chez Amazon
Le terme tokenmaxxing fait désormais parler de lui, avec des employés d’Amazon utilisant une technologie d’intelligence artificielle, nommée MeshClaw, pour automatiser des tâches jugées superflues afin d’augmenter artificiellement leur consommation de tokens. Ces pratiques soulèvent des questions sur l’efficacité des mesures de productivité mises en place par la société.
L’histoire se répète à Silicon Valley
Ce n’est pas un cas isolé. Dans la Silicon Valley, d’autres entreprises comme Meta et Microsoft ont été confrontées à des comportements similaires. Meta, par exemple, a même établi un classement interne nommé Token Legend, incitant ses employés à maximiser leur utilisation de tokens. Cette compétition pour le volume de tokens consommés est devenue une véritable culture au sein de certaines entreprises technologiques.
Les enjeux de la mesure de la productivité
Amazon exige que ses développeurs utilisent des outils d’IA au moins 80 % du temps. Bien que la société ait déclaré que ces statistiques ne seraient pas utilisées pour évaluer la performance, plusieurs employés ont révélé que la pression des managers était bien réelle. “Lorsque l’utilisation est suivie, des incitations perverses apparaissent”, a déclaré un employé au Financial Times.
Une approche contestable
Forcer une grande organisation à adopter de nouvelles technologies peut sembler logique. Cela peut encourager l’innovation si un nombre suffisant d’employés trouvent des usages bénéfiques. Cependant, le problème survient lorsque l’utilisation de l’IA est détournée pour maximiser des métriques au lieu de servir un véritable objectif d’apprentissage ou d’efficacité.
La question de la validité des données
Amazon a investi 200 milliards de dollars dans son infrastructure d’IA. Toutefois, si une part considérable de cette consommation est simplement du tokenmaxxing, cela soulève des doutes quant à la fiabilité des chiffres justifiant de tels investissements. Les données doivent en effet refléter un usage réel et utile, et non un gonflage artificiel.
L’importance de la distinction
Distinguer entre l’adoption authentique des technologies et une utilisation biaisée est crucial. L’adoption véritable engendre une demande durable, tandis qu’une consommation artificielle pourrait s’effondrer si les incitations changent. Amazon a déjà restreint l’accès public aux statistiques d’utilisation, soulignant l’importance de ces données dans le comportement des équipes.
Leçons à tirer
La loi de Goodhart nous rappelle qu’une mesure perd de sa valeur lorsqu’elle devient un objectif en soi. Dans le cas d’Amazon, il ne semble pas que la société ait mis en place un système efficace pour évaluer l’utilisation réelle de l’IA par ses ingénieurs. Ce qu’elle a construit, c’est un tableau de bord, et comme tout tableau de bord, il est sujet à manipulation.
En fin de compte, pour qu’une technologie comme l’intelligence artificielle apporte une réelle valeur ajoutée, elle doit être adoptée avec un objectif clair et non être réduite à un simple jeu de chiffres.