Nvidia söz konusu yapay zeka (AI) ve yüksek performanslı bilgi işlem (HPC) için kendi Arm tabanlı CPU ve Hopper tabanlı GPU’sunu içeren Grace Hopper GH200 süper çipinin, Almanya’daki Forschungszentrum Jülich tesisinde barındırılan Avrupa’nın ilk ExaFLOPS süper bilgisayarı Jüpiter’e güç verdiğini söyledi. Makinenin hem simülasyonlar hem de yapay zeka iş yükleri için kullanılabilmesi, onu bugün kurulu süper bilgisayarların büyük çoğunluğundan ayırıyor. Ayrıca Nvidia, GH200’ün dünya çapında 40 süper bilgisayara güç verdiğini ve bunların toplam performansının 200 ‘AI’ ExaFLOPS civarında olduğunu söyledi.
Jüpiter süper bilgisayarı, Quantum-2 InfiniBand ağı kullanılarak birbirine bağlanan ve Eviden’in BullSequana XH3000 sıvı soğutma teknolojisi kullanılarak soğutulan toplamda 2,3 TB HBM3E belleğe sahip yaklaşık 24.000 GH200 çip tarafından destekleniyor. Makine, iklim ve hava durumu modellemesi, malzeme bilimi, ilaç keşfi, endüstri mühendisliği ve kuantum hesaplama dahil olmak üzere simülasyonlar için 1 ExaFLOPS FP64 performansı sunar. Ek olarak makine, büyük dil modellerinin ve benzer iş yüklerinin eğitimi için 90 ExaFLOPS’luk muazzam bir AI performansı sağlayabilir. Tüm bunlar Nvidia’nın Earth-2, BioNeMo, Clara, cuQuantum, Modulus ve Omniverse gibi yazılım çözümleri tarafından desteklenecek.
Jüpiter süper bilgisayarındaki her düğüm, yapay zeka ve HPC iş yükleri için 288 Arm Neoverse çekirdeği ve dört H200 GPU içeren, başlı başına bir güç merkezidir ve olağanüstü 16 PetaFLOPS yapay zeka performansı elde etme kapasitesine sahiptir. GH200 süper çipleri, Nvidia’nın NVLink bağlantısı kullanılarak birbirine bağlanıyor, ancak Nvidia bu ara bağlantının toplam bant genişliğini açıklamadı.
Jülich Süper Bilgi İşlem Merkezi direktörü Thomas Lippert, “Jüpiter’in kalbinde NVIDIA’nın hızlandırılmış bilgi işlem platformu yer alıyor ve bu da onu bilimsel araştırmalarda devrim yaratacak çığır açan bir sistem haline getiriyor” dedi. “Jupiter, temel modellerin eğitimini yeni boyutlara taşımak için exascale AI ve exascale HPC’yi dünyanın en iyi AI yazılım ekosistemiyle birleştiriyor.”
Jüpiter dikkat çekici bir sistem olsa da (sonuçta bu Avrupa’nın ilk ExaFLOPS makinesi) GH200 tabanlı tek süper bilgisayar değil. Özellikle Bristol Üniversitesi, Birleşik Krallık’taki en güçlü bilgisayar olmayı hedefleyen, 141 GB HBM3E’ye sahip 5.000’den fazla GH200 içeren bir süper bilgisayar inşa ediyor. Nvidia’nın Grace Hopper GH 200’ü dünya çapında Dell, HPE ve Lenovo gibi şirketler tarafından üretilen 40’tan fazla süper bilgisayarda kullanılacak. Bu sistemin birleşik performansı yaklaşık 200 AI ExaFLOPS olacaktır.
Örneğin HPE, HPE Cray EX2500 süper bilgisayarlarında Nvidia’nın Grace Hopper GH200 süper çipini kullanacak. Bu makinelerin ölçeği binlerce GH200 yongası kullanılarak büyük ölçüde büyütülebilir, bu da daha hızlı ve daha verimli yapay zeka modeli eğitimi anlamına gelir.
Nvidia’nın GH200’ü yıl sonuna kadar ASRock Rack, Asus, Gigabyte ve Ingrasys’te de satışa sunulacak. Nvidia ayrıca LaunchPad programı aracılığıyla GH200’e ücretsiz erişim sunmayı ve bu güçlü teknolojinin daha fazla insanın kullanımına sunulmasını planlıyor.