NVIDIA’nın 120 GB HBM2e Bellek Kapasiteli Hopper H100 PCIe Grafik Kartı Üzerinde Çalıştığı İddiası

NVIDIA’nın 120 GB’a kadar HBM2e bellek kapasitesine sahip yepyeni bir Hopper H100 GPU tabanlı grafik kartı üzerinde çalıştığı iddia ediliyor.

120 GB HBM2e Bellek Kapasiteli NVIDIA Hopper H100 GPU-Powered PCIe Grafik Kartı Tespit Edildi

NVIDIA şimdiye kadar resmi olarak Hopper H100 GPU’nun iki versiyonunu, bir SXM5 kartını ve bir PCIe çeşidini duyurdu. Her ikisi de farklı yapılandırılmış Hopper H100 GPU’lara sahiptir ve VRAM kapasiteleri 80 GB’de aynıyken, birincisi yepyeni HBM3 standardını kullanırken ikincisi HBM2e standardını kullanır.

Artık bilgiye dayalı s-ss.cc (aracılığıyla MEGAsizeGPU), NVIDIA, Hopper H100 GPU’nun yepyeni bir PCIe sürümü üzerinde çalışıyor olabilir. Yeni grafik kartı 80 GB HBM2e’ye sahip olmayacak, ancak 120 GB HBM2e bellek ile tamamen bitecek.

Mevcut bilgilere göre, Hopper H100 PCIe grafik kartı yalnızca 6144 bit veri yolu arabiriminde 120 GB bellek için etkinleştirilmiş altı HBM2e yığınının tamamıyla birlikte gelmiyor, aynı zamanda SXM5 varyantı ile aynı GH100 GPU yapılandırmasıyla birlikte geliyor. Bu, toplam 16.896 CUDA çekirdeği ve 3 TB/s’yi aşan bellek bant genişliğidir. Tek duyarlıklı işlem performansı, SXM5 varyantıyla aynı olan 30 TFLOP olarak derecelendirilmiştir.

Spesifikasyonlara gelince, NVIDIA Hopper GH100 GPU, toplam 8 GPC’de bulunan devasa bir 144 SM (Akış Çok İşlemcili) yonga düzeninden oluşur. Bu GPC’ler, her biri 2 SM biriminden oluşan toplam 9 TPC’yi sallar. Bu bize GPC başına 18 SM ve tam 8 GPC konfigürasyonunda 144 SM verir. Her SM, bize toplam 18.432 CUDA çekirdeği vermesi gereken 128 FP32 biriminden oluşur. H100 yongasından bekleyebileceğiniz yapılandırmalardan bazıları şunlardır:

GH100 GPU’nun tam uygulaması aşağıdaki birimleri içerir:

• 8 GPC, 72 TPC (9 TPC/GPC), 2 SM/TPC, tam GPU başına 144 SM
• SM başına 128 FP32 CUDA Çekirdeği, tam GPU başına 18432 FP32 CUDA Çekirdeği
• SM başına 4 Dördüncü Nesil Tensör Çekirdeği, tam GPU başına 576
• 6 HBM3 veya HBM2e yığını, 12 512 bit Bellek Denetleyicisi
• 60MB L2 Önbellek

SXM5 kart form faktörüne sahip NVIDIA H100 GPU, aşağıdaki birimleri içerir:

• 8 GPC, 66 TPC, 2 SM/TPC, GPU başına 132 SM
• SM başına 128 FP32 CUDA Çekirdeği, GPU başına 16896 FP32 CUDA Çekirdeği
• SM başına 4 Dördüncü Nesil Tensör Çekirdeği, GPU başına 528
• 80 GB HBM3, 5 HBM3 yığını, 10 512 bit Bellek Denetleyicisi
• 50MB L2 Önbellek
• Dördüncü Nesil NVLink ve PCIe Gen 5

Şimdi bunun bir test kartı mı yoksa test edilmekte olan Hopper H100 GPU’nun gelecekteki bir yinelemesi mi olduğu bilinmiyor. NVIDIA kısa süre önce GTC 22’de Hopper GPU’larının artık tam üretimde olduğunu ve ilk ürün dalgasının önümüzdeki ay piyasaya çıkacağını belirtti. Verimler arttıkça, piyasada 120 GB Hopper H100 PCIe grafik kartı ve SXM5 çeşitlerini kesinlikle görebiliriz, ancak şimdilik çoğu müşterinin alacağı 80 GB.

NVIDIA HPC / AI GPU’ları