Le gaspillage des tokens d’IA
Sam Altman, il y a un an, avançait une prédiction intrigante : « À mesure que la production de centres de données se automatise, le coût de l’intelligence artificielle (IA) devrait converger avec celui de l’électricité. » Bien que cette promesse d’un accès à l’IA à moindre coût ne se soit pas encore matérialisée, une réalité plus préoccupante émerge : non seulement nous dépensons une multitude de tokens, mais nous les gaspillons également.
L’essor du tokenmaxxing
Le phénomène du tokenmaxxing se répand comme une tendance insensée. De nombreuses entreprises réalisent qu’elles investissent d’importantes sommes pour que leurs employés exploitent l’IA de manière optimale. Pourtant, cette course à la consommation de tokens semble plus être une mode qu’une véritable utilité.
Les coûts cachés de l’IA
Un rapport de la startup EntelligenceAI révèle qu’uniquement 18 centimes de chaque dollar investi dans l’IA parviennent effectivement à la production. Les 82 % restants sont engloutis dans des tâches comme la correction d’erreurs, la réécriture de code et la révision de processus sans valeur ajoutée. Ce qu’on appelle le « gaspillage improductif » est alarmant ; il illustre que le succès de l’IA dépend davantage de son utilisation judicieuse que de sa consommation excessive.
Des voix s’élèvent contre le gaspillage
Andrew Macdonald, COO d’Uber, remet en question la justification de ces dépenses massives en IA. Entre les compressions budgétaires et les constatations d’inefficacité, Uber a décidé de réduire l’utilisation de certains modèles, ayant déjà épuisé ses fonds disponibles.
La culture du gaspillage
Des préoccupations similaires se manifestent chez d’autres géants. Par exemple, le CFO d’Amazon a conseillé à ses employés d’éviter d’utiliser l’IA simplement pour le plaisir. Cette pression pour consommer des tokens a conduit à des usages trivialisés, où les employés préféraient utiliser des modèles surpuissants pour des tâches banales.
L’utilisation adéquate de l’IA
Il est essentiel de recadrer notre approche. Selon Matan Gringberg, CEO de la startup d’IA Factory, certains employés gaspillent des milliers de dollars en utilisant des modèles complexes pour des questions simples. La clé réside dans une utilisation adaptée ; par exemple, pour des cours particuliers d’algèbre, on pourrait opter pour un professeur moins coûteux qu’Einstein.
Une consommation de tokens à revoir
Lors de l’événement Google I/O, Sundar Pichai a annoncé que Google traitait plus de 3 200 milliards de tokens par mois, soit sept fois plus qu’il y a un an. Face à cette explosion de la demande, des mesures ont été mises en place pour décourager les usages futiles.
Les nouvelles dynamiques d’utilisation
L’émergence d’outils de programmation autonomes, tels que Claude Code et Codex, intensifie encore la consommation de tokens. Ces outils automatisent des tâches, entraînant une utilisation accrue des ressources. Ce processus consomme énormément de tokens et explique largement l’augmentation du gaspillage observé.
Restrictions sur les forfaits mensuels
Jusqu’à récemment, des plans tels que ChatGPT Plus permettaient une grande flexibilité dans l’utilisation de tokens. Cependant, OpenAI et Anthropic ont commencé à revoir leurs stratégies, introduisant des limitations pour éviter les abus. Les utilisateurs doivent maintenant adopter une approche plus réfléchie : payer par usage et éviter d’accumuler des frais inutiles pour des interactions banales.
Conclusion
Il est évident que le problème ne réside pas dans l’utilisation de l’IA, mais dans son gaspillage rampant. À mesure que nous progressons, il est impératif d’adopter une utilisation plus consciente des outils d’IA afin d’optimiser nos ressources tout en capitalisant sur les avantages qu’ils peuvent offrir.