Lorsque la pand\u00e9mie de COVID-19 a commenc\u00e9, certains produits, comme le papier toilette et la levure, ont disparu des supermarch\u00e9s. De m\u00eame, les g\u00e9ants de la technologie investissent des milliards de dollars dans des GPUs pour l’intelligence artificielle, mais un rapport r\u00e9cent r\u00e9v\u00e8le que 95 % de ces unit\u00e9s sont inactives la plupart du temps. Cette situation s’explique en partie par la peur de manquer des opportunit\u00e9s.<\/p>\n
Avant d’approfondir ce ph\u00e9nom\u00e8ne, il est crucial d’aborder le concept de Kubernetes. Ce dernier est un syst\u00e8me qui g\u00e8re les ressources dans les centres de donn\u00e9es. Imaginez un supermarch\u00e9 o\u00f9 les \u00e9tag\u00e8res repr\u00e9sentent les serveurs et les produits, les applications. Kubernetes agit comme un chef d’orchestre, s’assurant que tout fonctionne de mani\u00e8re optimis\u00e9e et en continu.<\/p>\n
Un rapport de Cast AI sur l’optimisation de Kubernetes a r\u00e9v\u00e9l\u00e9 l’ampleur de cette inefficacit\u00e9. L’analyse de 23,000 clusters chez des g\u00e9ants tels qu’AWS, Azure et GCP a montr\u00e9 que l’utilisation moyenne des GPUs \u00e9tait d’\u00e0 peine 5 %. Autrement dit, ces entreprises d\u00e9pensent pour 20 fois plus de capacit\u00e9 de calcul que ce dont elles ont r\u00e9ellement besoin.<\/p>\n
Les nouvelles ne s’am\u00e9liorent pas. Les responsables de Cast AI indiquent que la situation se d\u00e9grade d’ann\u00e9e en ann\u00e9e. L’utilisation des CPU a chut\u00e9 de 10 % \u00e0 8 % et celle de la m\u00e9moire de 23 % \u00e0 20 %. Paradoxalement, malgr\u00e9 cette baisse d’utilisation, les hyperscalers continuent de surcompenser, faisant monter l’approvisionnement des CPU \u00e0 69 %.<\/p>\n
La strat\u00e9gie d’achat agressive des Big Tech est souvent motiv\u00e9e par le FOMO, ou “fear of missing out”. Elles craignent de ne pas \u00eatre pr\u00eates pour la demande future, entra\u00eenant une surench\u00e8re sur les ressources. Ce ph\u00e9nom\u00e8ne cr\u00e9e un cycle de p\u00e9nurie qui impacte non seulement les g\u00e9ants de l’industrie mais \u00e9galement les consommateurs.<\/p>\n
Le co\u00fbt des \u00e9quipements inactifs est non n\u00e9gligeable. Tandis qu’une CPU inoccup\u00e9e co\u00fbte quelques centimes par heure, une GPU inactive peut co\u00fbter plusieurs dollars. Cela signifie que les centres de donn\u00e9es non seulement perdent de l’argent, mais que les tarifs de location de puissance de calcul sont actuellement en forte augmentation.<\/p>\n
Cast AI n’est pas optimiste quant \u00e0 l’avenir. Les hyperscalers semblent pr\u00e9f\u00e9rer assumer ces co\u00fbts plut\u00f4t que de modifier leurs habitudes par crainte de ne pas \u00eatre pr\u00eats pour une future mont\u00e9e en fl\u00e8che de la demande en IA. Cette dynamique am\u00e8ne \u00e0 se demander si les technologies grand public, comme nos ordinateurs de jeu, auront un avenir, tant que l’accent est mis sur le mat\u00e9riel d\u00e9di\u00e9 \u00e0 l’IA.<\/p>\n<\/p>\n
\u00c0 travers cette analyse, nous voyons que la surconsommation des GPUs et l’inefficacit\u00e9 des centres de donn\u00e9es posent des d\u00e9fis majeurs pour le secteur technologique. Les cons\u00e9quences de cette dynamique se font sentir bien au-del\u00e0 des simples co\u00fbts financiers.<\/p>\n