Nvidia, 2024 mali yılının ikinci çeyreğinde 10,3 milyar dolar değerinde veri merkezi donanımı sattığını söylediğinde, şirketin tonlarca üst düzey H100 hesaplama GPU’su sattığını hayal edebiliyorduk, ancak pazar araştırma şirketi Omdia Nvidia diyor ki gerçekten 2023 takviminin ikinci çeyreğinde 900 ton H100 işlemci sattı.
Omdia, Nvidia’nın ikinci çeyrekte yapay zeka (AI) ve yüksek performanslı bilgi işlem (HPC) uygulamaları için 900 tondan (1,8 milyon pound) fazla H100 hesaplama GPU’su sevk ettiğini tahmin ediyor. Omdia, bir Nvidia H100 hesaplama GPU’sunun soğutucuyla birlikte ortalama ağırlığının 3 kilogramın (6,6 pound) üzerinde olduğuna inanıyor, bu nedenle Nvidia ikinci çeyrekte 300 binin üzerinde H100 sevk etti.
Nvidia H100 üç farklı form faktörüyle geliyor ve her biri farklı ağırlıklara sahip. Nvidia H100 PCIe kartı ağırlıkları 1,2 kilogramNvidia H100 SXM modülünün ağırlığı bilinmemekle birlikte (Nvidia’ya ping attık), ancak soğutuculu bir OAM modülünün ağırlığı – ki bu da H100 SXM ile hemen hemen aynı boyut ve TDP’dir – en fazla 2 kilogram. Nvidia H100 gönderilerinin %80’inin modül ve %20’sinin kart olduğunu varsayarsak, tek bir H100’ün ortalama ağırlığının yaklaşık 1,84 kilogram olması gerekir. Omdia, ağırlığı, Nvidia’nın ikinci çeyrekte gönderdiğine inandığı H100 sayısına göre tahmin ettiğini, dolayısıyla gerçek ağırlığın 900 tondan az olabileceğini söylüyor, ancak yine de Nvidia’nın ikinci çeyrekte kelimenin tam anlamıyla tonlarca H100 sağladığını söyleyebiliriz.
Omdia, Nvidia’nın önümüzdeki çeyreklerde hemen hemen aynı miktarda GPU satmasını beklediğini, dolayısıyla şirketin bu yıl yaklaşık 3.600 ton veya 7,2 milyon pound H100 GPU satmayı planladığını söyledi. Hız aynı kalırsa bu, yılda yaklaşık 1,2 milyon H100 GPU’ya denk geliyor.
Bu kaba bir tahmin ancak çeyrekte 300 binden fazla H100 GPU’nun nakliyesi büyük bir başarı. H100 numarasının Çin merkezli H800 işlemcileri içerdiğini hayal etsek de şirketin önceki nesil A100, A800 ve A30 hesaplama GPU’larından tonlarcasını (belki de kelimenin tam anlamıyla) bunları halihazırda yapay zeka için kullanan şirketlere gönderdiğini de aklımızda tutmalıyız. çıkarım ve teknik bilgi işlem, yani Nvidia’nın her çeyrekte sattığı hesaplama GPU’larının gerçek sayısı 300 binin oldukça üzerinde, toplamda ise 900 tonun çok üzerinde.
Açıkçası bu, GPU’lara yönelik doyumsuz küresel talebi karşılamak için yeterli değil; Nvidia’nın AI GPU’ları yıl sonundan sonra tükendi. Bu nedenle, Nvidia’nın üretken yapay zeka çılgınlığından para kazanmasıyla önümüzdeki yıl sevkiyat oranının hızlanmasını bekleyebiliriz.
Hikayeye biraz daha bağlam katmak için işte 900 ton ağırlığındaki diğer bazı şeyler:
- 4.5 Boeing 747’ler
- 11 Uzay Mekiği Yörünge Aracı
- 215.827 galon su
- 299 Ford F150-Yıldırımlar
- 181.818 PlayStation 5’ler
- 32.727 Golden Retriever