NVIDIA, CEO Jensen Huang’ın San Jose, CA’daki GTC 2025’teki açılış konuşması sırasında bugün Blackwell Ultra B300 Veri Merkezi GPU’yu resmen duyurdu.
Mevcut B200 çözeltisinden% 50 daha fazla bellek ve FP4 hesaplaması sunan, yarıştaki riskleri yine daha hızlı ve daha yetenekli AI modellerine yükseltiyor. Nvidia, daha önce sindirilen bilgileri yeniden canlandırmaktan daha fazlasını yapan Deepseek R1 gibi daha sofistike ai llms’e atıfta bulunarak “akıl yürütme çağında inşa edildiğini” söylüyor.
Doğal olarak, Blackwell Ultra B300 sadece tek bir GPU değil. Temel B300 yapı taşı ile birlikte yeni B300 NVL16 sunucu rafı çözümleri, bir GB300 DGX istasyonu ve GB300 NV72L tam raf çözümleri olacak. Sekiz NV72L rafını bir araya getirin ve tam Blackwell Ultra DGX SuperPod’u alırsınız: 288 Grace CPU’ları, 576 Blackwell Utlra GPU’ları, 300TB HBM3E belleği ve 11.5 Exaflop FP4.
Bunlar, NVIDIA’nın “AI fabrikaları” olarak sınıflandırdığı süper bilgisayar çözümleriyle birbirine bağlanabilir.
Nvidia, Blackwell Ultra’nın 1.5x daha yoğun FP4 hesaplaması olacağını söylüyor olsa da, net olmayan şey, diğer hesaplamanın benzer şekilde ölçeklenip ölçeklenmediğidir. Bunun böyle olmasını beklerdik, ancak NVIDIA’nın daha fazla SMS sağlamak, saatleri güçlendirmek ve HBM3E yığınlarının kapasitesini arttırmaktan daha fazlasını yapması mümkündür. Örneğin, FP8 veya FP16 modlarında saatler biraz daha yavaş olabilir. Ancak, diğer verilerin bazı çıkarımları ile sahip olduğumuz temel özellikler (soru işaretleri ile gösterilir).
Platform | B300 | B200 | B100 |
|---|---|---|---|
Konfigürasyon | Blackwell GPU | Blackwell GPU | Blackwell GPU |
FP4 tensör yoğun/seyrek | 15/30 Petaflops | 10/20 Petaflops | 7/14 Petafloplar |
FP6/FP8 Tensör yoğun/seyrek | 7.5/15 Petafloplar? | 5/10 Petaflops | 3.5/7 Petafloplar |
INT8 Tensör Yoğun/Seyrek | 7.5/15 PETAOPS? | 5/10 PETAOPS | 3.5/7 PETAOPS |
FP16/BF16 Tensör yoğun/seyrek | 3.75/7.5 Petafloplar? | 2.5/5 Petafloplar | 1.8/3.5 Petaflops |
TF32 Tensör yoğun/seyrek | 1.88/3.75 Petafloplar? | 1.25/2.5 Petaflops | 0.9/1.8 Petafloplar |
Fp64 tensör yoğun | 68 Teraflop? | 45 terflop | 30 Teraflop |
Hafıza | 288GB (8x36GB) | 192GB (8x24GB) | 192GB (8x24GB) |
Bant genişliği | 8 TB/S? | 8 TB/S | 8 TB/S |
Güç | ? | 1300W | 700W |
Blackwell Ultra B300 için performans ve detaylar hakkında biraz açıklama istedik ve “Blackwell Ultra GPU’lar (GB300 ve B300’de) Blackwell GPU’lardan (GB200 ve B200) farklı çiplerdir. Blackwell Ultra GPU’lar, FP4 kompleksindeki 1.5x artışı ile test süresi ölçeklendirme talebini karşılamak için tasarlanmıştır.”
Bu, B300’ün pakete daha fazla tensör çekirdeği sığdırmak için fiziksel olarak daha büyük bir çip olduğu anlamına mı geliyor? Durum böyle görünüyor, ancak daha fazla ayrıntı bekliyoruz.
Açık olan, yeni B300 GPU’ların B200’den önemli ölçüde daha fazla hesaplama verimi sunacağıdır. % 50 daha fazla paket üzerinde belleğe sahip olmak, daha fazla parametreye sahip daha büyük AI modellerini mümkün kılacak ve beraberindeki hesaplama kesinlikle yardımcı olacaktır.
Nvidia potansiyel performansın bazı örnekleri verdi, ancak bunlar hopper ile karşılaştırıldı, böylece suları çamurladı. B200 ve B300 arasındaki karşılaştırmaları benzer konfigürasyonlarda – özellikle aynı sayıda GPU ile görmek istiyoruz. Ama sahip olduğumuz şey bu değil.
NVIDIA, bir NV72L rafının benzer bir hopper konfigürasyonundan 30 kat daha fazla çıkarım performansı sunabileceğini söylüyor. Bu rakam doğal olarak ürün yığınının birden fazla alanındaki iyileştirmelerden kaynaklanır, böylece daha hızlı NVlink, artan bellek, hesaplama ve FP4 tüm faktörleri denkleme.
İlgili bir örnekte, Blackwell Ultra Deepseek R1-671B modeli ile 1.000 saniyeye kadar 1000 jeton sunabilir ve bunu daha hızlı yapabilir. Hopper, bu arada, sadece 100’e kadar jeton sunuyor. Bu nedenle, verimde 10 kat artış var ve daha büyük bir sorguya 1,5 dakikadan 10 saniyeden 10 saniyeye hizmet etme süresini azaltıyor.
B300 ürünleri yıl sonundan önce, yılın ikinci yarısında gönderilmeye başlamalıdır. Muhtemelen, bu sefer herhangi bir ambalaj snafus olmayacak ve işler gecikmeyecek, ancak Nvidia, son mali yılı Blackwell B200/B100’den 11 milyar dolar gelir elde ettiğini belirtiyor. Önümüzdeki yıl için bu rakamı önemli ölçüde artırmayı beklediğini söylemek güvenli bir bahis.
