Dünyanın En Hızlı 4nm GPU’su ve HBM3 Bellekli Dünyanın İlki

NVIDIA, GTC 2022’de, yeni nesil veri merkezleri için tasarlanmış bir bilgi işlem güç merkezi olan Hopper H100 GPU’yu tanıttı. Bu güçlü çipten bahsetmeyeli uzun zaman oldu ama görünüşe göre NVIDIA medyayı seçmek için amiral gemisi çipinin yakından görüntüsünü vermiş.

NVIDIA Hopper H100 GPU: 4nm ve HBM3 Teknolojisine Sahip İlk Yüksek Çözünürlüklü Resimler Elde Ediyor

CNET sadece H100 GPU’nun birleştiği grafik kartını değil, aynı zamanda H100 yongasının kendisini de ele geçirmeyi başardı. H100 GPU, en son 4nm teknolojisiyle paketlenmiş olarak gelen ve son teknoloji HBM3 bellek teknolojisiyle birlikte 80 Milyar transistör içeren bir canavar çiptir. Teknoloji çıkışına göre, H100, Hopper H100 GPU’yu 6 yığınlı bir HBM3 tasarımıyla birleştirmek için TSMC’nin CoWoS teknolojisini kullanan 30’dan fazla güçlü VRM’ye ve devasa bir entegre aracıya sahip PG520 PCB kartı üzerine inşa edilmiştir.

En İyi AD102 GPU’lu Yeni Nesil NVIDIA GeForce RTX 4090, 100 TFLOP’u Aşan İlk Oyun Grafik Kartı Olabilir

Resimdeki NVIDIA Hopper H100 GPU (Resim Kredisi: CNET):

Altı yığının dışında, verim bütünlüğünü sağlamak için iki yığın tutulur. Ancak yeni HBM3 standardı, çılgınca olan 3 TB/s hızlarında 80 GB’a kadar kapasiteye izin veriyor. Karşılaştırma için, mevcut en hızlı oyun grafik kartı RTX 3090 Ti, yalnızca 1 TB/s bant genişliği ve 24 GB VRAM kapasiteleri sunuyor. Bunun dışında, H100 Hopper GPU da en son FP8 veri biçiminde paketler ve yeni SXM bağlantısı aracılığıyla çipin etrafında tasarlandığı 700W güç tasarımına uyum sağlamaya yardımcı olur.

Bir Bakışta NVIDIA Hopper H100 GPU Özellikleri

Spesifikasyonlara gelince, NVIDIA Hopper GH100 GPU, toplam 8 GPC’de bulunan devasa bir 144 SM (Akış Çok İşlemcili) yonga düzeninden oluşur. Bu GPC’ler, her biri 2 SM biriminden oluşan toplam 9 TPC’yi sallar. Bu bize GPC başına 18 SM ve tam 8 GPC konfigürasyonunda 144 SM verir. Her SM, bize toplam 18.432 CUDA çekirdeği vermesi gereken 128 FP32 biriminden oluşur. H100 yongasından bekleyebileceğiniz yapılandırmalardan bazıları şunlardır:

GH100 GPU’nun tam uygulaması aşağıdaki birimleri içerir:

Intel CEO’su Pat Gelsinger, 2024 yılına kadar çip sıkıntısının sona ermesini bekliyor

• 8 GPC, 72 TPC (9 TPC/GPC), 2 SM/TPC, tam GPU başına 144 SM
• SM başına 128 FP32 CUDA Çekirdeği, tam GPU başına 18432 FP32 CUDA Çekirdeği
• SM başına 4 Dördüncü Nesil Tensör Çekirdeği, tam GPU başına 576
• 6 HBM3 veya HBM2e yığını, 12 512 bit Bellek Denetleyicisi
• 60MB L2 Önbellek
• Dördüncü Nesil NVLink ve PCIe Gen 5

SXM5 kart form faktörüne sahip NVIDIA H100 GPU, aşağıdaki birimleri içerir:

• 8 GPC, 66 TPC, 2 SM/TPC, GPU başına 132 SM
• SM başına 128 FP32 CUDA Çekirdeği, GPU başına 16896 FP32 CUDA Çekirdeği
• SM başına 4 Dördüncü Nesil Tensör Çekirdeği, GPU başına 528
• 80 GB HBM3, 5 HBM3 yığını, 10 512 bit Bellek Denetleyicisi
• 50MB L2 Önbellek
• Dördüncü Nesil NVLink ve PCIe Gen 5

Bu, tam GA100 GPU yapılandırmasına göre 2,25 katlık bir artıştır. NVIDIA ayrıca Hopper GPU’su içinde performansı büyük ölçüde artıracak daha fazla FP64, FP16 ve Tensor çekirdeğinden yararlanıyor. Ve bu, aynı zamanda 1:1 FP64’e sahip olması beklenen Intel’in Ponte Vecchio’suna rakip olmak için bir gereklilik olacak.

Önbellek, NVIDIA’nın çok dikkat ettiği ve Hopper GH100 GPU’da 48 MB’a çıkardığı başka bir alandır. Bu, Ampere GA100 GPU’da bulunan 50 MB önbelleğe göre %20’lik bir artış ve AMD’nin amiral gemisi Aldebaran MCM GPU’su MI250X’in boyutunun 3 katı.

Performans rakamlarını özetleyen NVIDIA’nın GH100 Hopper GPU’su, FP8 için 4000 TFLOP, FP16 için 2000 TFLOP, TF32 için 1000 TFLOP ve FP64 Hesaplama performansı için 60 TFLOP sunacak. Bu rekor kıran rakamlar, kendisinden önce gelen tüm diğer HPC hızlandırıcılarını yok ediyor. Karşılaştırma için, bu NVIDIA’nın kendi A100 GPU’sundan 3,3 kat ve FP64 hesaplamasında AMD’nin Instinct MI250X’inden %28 daha hızlıdır. FP16 hesaplamasında, H100 GPU, A100’den 3 kat ve MI250X’ten 5,2 kat daha hızlıdır ki bu tam anlamıyla çılgındır.

Kısa bir süre önce Japonya’da 30.000 ABD Dolarının üzerinde bir fiyatla listelenmiş olan PCIe varyantı, daha güçlü bir konfigürasyona sahip SXM varyantının kolayca yaklaşık 50 bin dolara mal olacağını hayal edebilir.

NVIDIA Ampere GA100 GPU Tabanlı Tesla A100 Özellikleri: