Les Nouveaux Chips Ironwood de Google : Un Virage vers l’Inference
Au cours des dernières années, l’accent principal était mis sur l’entraînement de modèles d’intelligence artificielle (IA) pour les perfectionner. Cependant, avec la maturation des technologies et une diminution des améliorations de performance via l’entraînement, l’inférence est devenue le sujet central. Il s’agit, par exemple, de s’assurer que les chatbots IA fonctionnent rapidement et efficacement pour les utilisateurs. Google a saisi ce changement et a développé des chips spécifiquement conçus pour répondre à ces besoins.
La Famille TPS : Les Ironwood
Les nouveaux chips, appelés Ironwood, font partie de la célèbre famille des Tensor Processing Units (TPUs) de Google. Cette entreprise, qui a débuté son développement en 2015 et lancé les premiers modèles en 2018, semble récolter des fruits intéressants. Ces chips promettent non seulement un meilleur rendement, mais ils sont surtout conçus pour assurer une utilisation plus rapide et efficace des modèles d’IA.
L’Importance de l’Inference
Les TPUv7, qui seront disponibles prochainement, peuvent être utilisés pour l’entraînement, mais leur conception est surtout orientée vers l’inférence. Il est essentiel de comprendre que l’entraînement des modèles diffère de leur exécution pour répondre aux demandes des utilisateurs. C’est ce que Google met en avant avec cette nouvelle gamme de chips.
Des Performances Étonnantes
Selon Google, les avancées offertes par les Ironwood sont remarquables. Leur rendement est annoncé comme étant quatre fois supérieur à la génération précédente, tant pour l’entraînement que pour l’inférence. Ils sont présentés comme le “silicium personnalisé le plus puissant et le plus efficace sur le plan énergétique” à ce jour.
Le Concept de l’AI Hypercomputer
Ces chips sont des éléments essentiels de ce que Google appelle l’AI Hypercomputer, un système de supercalcul qui pourrait réduire les coûts informatiques de 28 % et offrir un retour sur investissement (ROI) de 353 % en trois ans. Cela signifie qu’utiliser ces chips pourrait multiplier le ROI par quatre dans ce délai.
Une Interconnexion Impressionnante
Les Ironwood permettent de combiner jusqu’à 9 216 chips en un seul nœud, ce qui élimine théoriquement les goulets d’étranglement associés aux modèles les plus exigeants. Ce type de cluster est capable de gérer jusqu’à 1,77 Petabytes de mémoire HBM, facilitant une communication avec une bande passante de 9,6 Tbps grâce à l’Inter-Chip Interconnect (ICI).
Performance en FLOPS
Google affirme qu’un cluster avec ces 9 216 TPUs Ironwood offre jusqu’à 118 fois plus d’ExaFLOPS FP8 que son meilleur concurrent. Les FLOPS, qui mesurent le nombre d’opérations mathématiques en virgule flottante pouvant être réalisées par seconde, garantissent que les charges de travail de l’IA sont exécutées en un temps record.
La Concurrence face à NVIDIA
Les nouveaux chips de Google illustrent une volonté claire des entreprises d’éviter une dépendance excessive aux tiers. Bien que NVIDIA reste un leader sur le marché, la montée des alternatives, comme les TPUv7 de Google, pourrait modifier la dynamique actuelle.
La Réduction de l’Importance de CUDA dans l’Inference
Une fois le modèle d’IA formé, l’inférence suit des règles différentes de l’entraînement. Le support CUDA n’est plus aussi crucial. L’inférence se concentre sur la rapidité des réponses, adaptant les modèles au matériel utilisé, ce qui pourrait diminuer la prédominance de NVIDIA face à des offres concurrentes comme celle de Google.