HSBC analistlerine göre, Nvidia’nın AI uygulamalarına yönelik Blackwell GPU’ları, şirketin Hopper tabanlı işlemcilerinden daha pahalı olacak. @ilkadopter, Barron’s’tan kıdemli bir yazar. Analistler bir GB200 süper çipinin (CPU+GPU) 70.000 dolara kadar mal olabileceğini iddia ediyor. Bununla birlikte Nvidia, özellikle B200 NVL72 sunucularının her birinin 3 milyon dolara kadar bir maliyete sahip olacağı öngörüldüğünde, yongaları ayrı ayrı satmak yerine Blackwell GPU’larını temel alan sunucuları satmaya daha yatkın olabilir.
HSBC, Nvidia’nın ‘giriş’ B100 GPU’sunun ortalama satış fiyatının (ASP) 30.000 ile 35.000 dolar arasında olacağını tahmin ediyor; bu da en azından Nvidia’nın H100 fiyatı aralığında. Tek bir Grace CPU’yu iki B200 GPU ile birleştiren daha güçlü GB200’ün maliyetinin 60.000 ile 70.000 dolar arasında olacağı bildiriliyor. Gerçekçi olalım: Bunlar yalnızca analist tahminleri olduğundan aslında bundan biraz daha pahalıya mal olabilir.
HSBC, NVIDIA GB200 NVL36 sunucu raf sisteminin fiyatının 1,8 milyon dolar, NVL72’nin ise 3 milyon dolar olduğunu tahmin ediyor. Ayrıca GB200 ASP’nin 60.000 ila 70.000 ABD Doları ve B100 ASP’nin 30.000 ila 35.000 ABD Doları arasında olacağını tahmin ediyor.13 Mayıs 2024
Nvidia’nın tasarımlarını temel alan sunucular çok daha pahalı olacak. 36 GB200 Süper Çipli (18 Grace CPU ve 36 gelişmiş B200 GPU) Nvidia GB200 NVL36 ortalama 1,8 milyon dolara satılabilirken, 72 GB200 Süper Çipli (36 CPU ve 72 GPU) Nvidia GB200 NVL72’nin fiyatı 3 dolar civarında olabilir. HSBC’nin iddia edilen rakamlarına göre milyon.
Nvidia CEO’su Jensen, bu yılki GTC 2024’te Blackwell veri merkezi çiplerini tanıttığında, niyetin tüm sunucu raflarını taşımak olduğu oldukça açıktı. Jensen, bir GPU düşündüğünde artık NVL72 rafını hayal ettiğini defalarca belirtti. Tüm kurulum, devasa bir GPU olarak işlev görmek üzere yüksek bant genişliğine sahip bağlantılar yoluyla entegre olur ve 13.824 GB toplam VRAM sağlar; bu, daha da büyük LLM’lerin eğitiminde kritik bir faktördür.
Bağımsız GPU’lar/Süper Çipler yerine tüm sistemleri satmak, Nvidia’nın sistem entegratörleri tarafından kazanılan primin bir kısmını absorbe etmesine olanak tanır, bu da gelirlerini ve karlılığını artıracaktır. Nvidia’nın rakipleri AMD ve Intel’in yapay zeka işlemcileriyle (örn. Instinct MI300 serisi, Gaudi 3) çok yavaş ilgi kazandığı göz önüne alındığında, Nvidia’nın yapay zeka işlemcilerini kesinlikle büyük bir primle satabileceği kesin. Hal böyle olunca HSBC’nin tahmin ettiği iddia edilen fiyatlar pek de şaşırtıcı değil.
H200 ve GB200 arasındaki farkları vurgulamak da önemlidir. H200 halihazırda bireysel GPU’lar için 40.000 dolara kadar fiyatlandırmayı emrediyor. GB200, GPU sayısını etkili bir şekilde dört katına çıkaracak (dört silikon kalıp, B200 başına iki), ayrıca Superchip adı verilen CPU ve büyük PCB’yi ekleyecek. Tek bir GB200 Süper Çip için ham hesaplama, H200’deki 1/2 petaflop’a (yoğun/seyrek) kıyasla 5 petaflop FP16’dır (seyreklikle 10 petaflop). Bu, diğer mimari yükseltmeleri hesaba katmadan, kabaca beş kat daha fazla işlem anlamına geliyor.
Veri merkezi düzeyindeki donanımların gerçek fiyatlarının her zaman sipariş edilen donanımın hacmine ve diğer müzakerelere bağlı olarak bireysel sözleşmelere bağlı olduğu unutulmamalıdır. Bu nedenle, bu tahmini rakamları tuz yardımıyla alın. Amazon ve Microsoft gibi büyük alıcılar büyük olasılıkla büyük indirimler alırken, daha küçük müşteriler HSBC’nin bildirdiğine göre daha yüksek bir fiyat ödemek zorunda kalabilir.
