Nvidia iki ürününü duyurdu: iki Grace CPU içeren canavar dörtlü B200 GPU modülü GB200 NVL4 ve hava soğutmalı veri merkezlerini hedefleyen H200 NVL PCIe GPU.
GB200 Grace Blackwell NVL4 Superchip, standart (NVL4 olmayan) çift GPU modelinin daha da güçlü bir çeşididir; hepsi tek bir anakartta NVLink ile birbirine bağlanmış dört adet B200 Blackwell GPU ve iki Grace ARM tabanlı CPU içerir. . Çözüm, 1,3 TB’lık muazzam bir tutarlı belleğe sahip HPC ve yapay zeka hibrit iş yüklerini hedefliyor. Nvidia, GB200 NVL4’ün, doğrudan selefi olan Nvidia GH200 NVL4 Grace Hopper Superchip’in 2,2 katı simülasyona, 1,8 katı eğitime ve 1,8 katı çıkarım performansına sahip olduğunu tanıtıyor.
Nvidia, GB200 NVL4 süper çipinin 2024 yılının 2. yarısında MSI, Asus, Gigabyte, Wistron, Pegatron, ASRock Rack, Lenovo, HP Enterprise ve daha fazlası gibi çeşitli sağlayıcılarda satışa sunulacağını söylüyor.
Spektrumun diğer tarafına geçen Nvidia’nın H200 NVL’si, PCIe 5.0 bağlantısı (128 GB/s) özelliğine sahip, çift yuvalı, hava soğutmalı bir GPU’dur. Soğutucu, giriş havasının sağdan sola doğru aktığı bir akış tasarımına sahip olup, rafa monte çözümler için optimize edilmiştir; üfleyici tarzı bir fan yoktur.
Performans, SXM form faktöründe Nvidia’nın mevcut H200’ünden biraz daha kötü. H200 NVL, FP64 için 30 TFLOPS ve FP32 için 60 TFLOPS olarak derecelendirilmiştir. Tensör çekirdek performansı FP64’te 60 TFLOPS, TF32’de 835 TFLOPS, BFLOAT16’da 1.671 TFLOPS, FP16’da 1.671 TFLOPS, FP8’de 3.341 TFLOPS ve INT8’de 3.341 TFLOP olarak derecelendirilmiştir.
Ancak Nvidia, H200 NVL’nin yerini aldığı H100 NVL’den çok daha hızlı olduğunu söylüyor. 1,5 kat daha fazla bellek kapasitesi ve 1,2 kat daha fazla bellek bant genişliği sunarak HPC iş yükleri için 1,7 kata kadar daha hızlı çıkarım performansı ve 1,3 kata kadar daha hızlı performans sunar. Nvidia ayrıca Ampere ile hızlı bir karşılaştırma yaptı ve H200 NVL’nin Ampere’nin eşdeğer GPU’larından 2,5 kat daha hızlı olduğunu belirtti.
H200 NVL PCIe GPU, hava soğutmalı sunucu rafları da dahil olmak üzere veri merkezi yapılandırmalarının büyük çoğunluğu için optimize edilmiştir. Nvidia, bir ankete göre kurumsal rafların yaklaşık %70’inin hava soğutması ve 20kW veya daha az güç kullandığını belirtiyor. PCIe GPU olarak veri merkezi sağlayıcıları mevcut raflarını yeniden kullanabilir ve yalnızca GPU’ları değiştirebilir, böylece israfı azaltır ve donanım yükseltme maliyetini önemli ölçüde azaltır. H200 NVL ayrıca, GPU başına 900 GB/s’ye kadar bant genişliği sunan ve sistem sağlayıcılarının performansı artırmak için tek bir donanıma dört adede kadar GPU bağlamasına olanak tanıyan NVLink ile donatılmıştır.
Nvidia’nın yeni hava soğutmalı GPU’su, Nvidia’nın Blackwell GPU’larının ciddi aşırı ısınma sorunları yaşadığı bir zamanda geliyor. Tam gelişmiş sıvı soğutma sistemleriyle çalışmalarına rağmen, sistem entegratörleri, GPU’nun yalnızca 120KW’a kadar tüketen raflardaki muazzam miktardaki ısı dağıtımı nedeniyle Blackwell GPU destekli sunucu raflarını yeniden tasarlamak zorunda kalıyor. H200 NVL, B200’ün yakın rakibi bile değil, ancak Nvidia’nın hava soğutmalı veri merkezi GPU’su, düşük güç tüketen, hava soğutmalı GPU’ların önemli avantajlarını vurguluyor.
H200 NVL, Dell, HP Enterprise, Lenovo ve Supermicro gibi çeşitli sağlayıcılardan temin edilebilecek. Ayrıca yeni GPU, Aivres, ASRock Rack, Asus, Gigabyte, Ingrasys, Inventec, MSI, Pegatron, QCT, Wistron ve Wiwynn platformlarında satışa sunulacak.
