Nvidia’nın Grace CPU Superchip ve Grace Hopper Superchip olarak adlandırılan kendi Arm tabanlı sunucu CPU’ları serisini oluşturma kararı, şirketin CPU’ları ve GPU’ları ile aynı kutuda tam sistemler oluşturma rotasını belirledi. Nvidia, birkaç büyük sunucu OEM’inin 2023’ün ilk yarısında yeni Arm CPU’larına ve Hopper GPU’larına dayalı düzinelerce referans sistemi sunacağını duyurduğunda, bu girişim bugün gerçeğe daha da yaklaştı.
Nvidia, aşağıda detaylandırdığımız bu yeni sistemlerin mevcut referans sunucuları ile birlikte var olacağını ve bu nedenle şirketin öngörülebilir gelecekte AMD ve Intel’den x86 işlemcileri desteklemeye devam edeceğini söylüyor.
Kısa bir hatırlatma olarak, Nvidia’nın Grace CPU Superchip’i, şirketin veri merkezi için tasarlanmış ilk yalnızca CPU Arm çipidir ve bir anakartta iki çip olarak gelirken, Grace Hopper CPU Superchip, bir Hopper GPU ve Grace GPU’yu aynı kart üzerinde birleştirir. . Neoverse tabanlı CPU’lar, Arm v9 komut setini destekler ve sistemler, Nvidia’nın yeni markalı NVLink-C2C ara bağlantı teknolojisi ile kaynaşmış iki yonga ile birlikte gelir.
Genel olarak Nvidia, Grace CPU Superchip’in hiper ölçekli hesaplama, veri analitiği ve bilimsel hesaplama gibi çok çeşitli uygulamalar için 2023’ün başlarında piyasaya çıktığında piyasadaki en hızlı işlemci olacağını iddia ediyor. (Silikon ile ilgili ayrıntılı bilgileri buradan okuyabilirsiniz.)
Asus, Gigabyte, Supermicro, QCT, Wiwynn ve Foxconn gibi bir dizi mavi çipli OEM/ODM’nin, 2023’ün ilk yarısında piyasaya sürülmesi planlanan düzinelerce yeni referans sunucu tasarımı var ve bu da Nvidia’nın Grace ile yolunda olduğunu gösteriyor. CPU silikonu. OEM’ler, sunucu tasarımlarının her birini, Nvidia’nın sunucu ve ana kart planlarını içeren dört referans tasarımından birinden yapacaktır. Bu sunucular, birincisi sıvı soğutma gerektiren 1U ve 2U form faktörlerinde sunulacak.
Bulut grafikleri ve oyun uygulamaları için Nvidia CGX sistemi, Nvidia’nın A16 GPU’ları ile eşleştirilmiş çift CPU Grace Superchip ile birlikte gelir. Nvidia OVX sunucuları, dijital ikiz ve çok yönlü uygulamalar için tasarlanmıştır ve ayrıca çift CPU Grace ile birlikte gelir, ancak birçok farklı Nvidia GPU modeliyle daha esnek eşleştirmelere izin verir.
Nvidia HGX platformu iki çeşide sahiptir. İlki, HPC iş yükleri için tasarlanmıştır ve yalnızca çift CPU Grace, GPU’lar ve OEM tanımlı G/Ç seçenekleriyle birlikte gelir. Bu arada, en solda, Grace CPU + Hopper GPU Superchip, OEM tanımlı G/Ç ve dördüncü nesil seçeneği desteği ile AI eğitimi, çıkarım ve HPC iş yükleri için daha tam özellikli HGX sistemini görüyoruz. NVLink anahtarları aracılığıyla sunucu dışındaki bağlantılar için NVLink.
Özellikle Nvidia, CPU+GPU Grace Hopper Superchip modelleriyle NVLink seçeneğini sunacak, ancak çift CPU Grace Superchip tarafından desteklenen sistemler için sunmayacak.
Burada HGX sistemlerine güç sağlayabilen iki farklı 2U blade’i görebiliriz. Çift CPU ‘HGX Grace’ CPU Superchip blade, 1 TB’a kadar LPDDR5x belleğe sahiptir, 1 TB/s’ye kadar bellek bant genişliği sağlar, 500 W TDP zarfına yapışır, sıvı veya hava ile soğutulabilir ve her birinde iki bıçağı destekler raf başına 84 düğüme kadar düğüm.
HGX ‘Grace Hopper’ Superchip blade, Hopper GPU ile eşleştirilmiş tek bir Grace CPU ile birlikte gelir ve 512 GB LPDDR5x bellek, 80 GB HBM3 ve birleşik 3,5 TB/sn’ye kadar bellek çıkışı sağlar. Beklediğiniz gibi, GPU’nun eklenmesiyle, bu blade daha yüksek 1000W TDP zarfıyla gelir ve hava veya sıvı soğutma ile birlikte gelir. Bu daha büyük bıçak, HGX Grace Hopper sistemlerini raf başına 42 düğümle sınırlar.
Şaşırtıcı olmayan bir şekilde, Nvidia, şirketin bir çözüm sağlayıcı olmasına yardımcı olan diğer önemli katkı maddesiyle tüm bu sistemleri sunuyor: Mellanox’u satın almasının meyveleri olarak gelen 400 Gbps Bluefield-3 Veri İşleme Birimleri (DPU’lar). Bu yongalar, kritik işleri CPU’lardan boşaltarak kolaylaştırılmış ağ, güvenlik, depolama ve sanallaştırma/düzenleme özelliklerine olanak tanır.
Nvidia’nın halihazırda hem Intel hem de AMD’den x86 CPU’larla kullanılabilen CGX, OVX ve HGX sistemleri var ve şirket bize bu sunucuları sağlamaya ve Intel ve AMD silikon ile daha yeni revizyonlar geliştirmeye devam etmeyi planladığını söylüyor.
“x86, bugün Nvidia GPU’ların hemen hemen tüm pazarı olan çok önemli bir CPU. x86’yı desteklemeye devam edeceğiz ve Arm tabanlı CPU’ları desteklemeye devam edeceğiz, pazardaki müşterilerimize her yerde seçim yapma imkanı sunacağız. Nvidia’nın Ürün Yönetimi ve Pazarlama Kıdemli Direktörü Paresh Kharya, bize hızlandırılmış bilgi işlem uygulamak istiyorlar” dedi.
Bu, Nvidia’nın performans yumrukları çekeceği anlamına gelmiyor. Şirket geçtiğimiz günlerde, Arm çipinin 2 kat daha hızlı ve 2.3 kat daha verimli olduğunu iddia ederek Intel’in Buz Gölü ile kafa kafaya bir hava tahmininde Grace CPU’sunun demosunu yaptı. Aynı Intel yongaları şu anda Nvidia’nın OVX sunucularına güç sağlıyor.
Şirket AMD’den de vazgeçmedi. Nvidia ayrıca Grace CPU Superchip’inin SPECrate_2017_int_base testinde mevcut DGX A100 sistemlerinde kullandığı önceki iki 64 çekirdekli EPYC Rome 7742 işlemciden 1.5 kat daha hızlı olduğunu iddia ediyor.
Nvidia’nın CPU’lara ilk girişinin iddialarını karşılayıp karşılamadığını yakında göreceğiz. Referans CGX, OVX ve HGX sistemleri 2023’ün ilk yarısında gönderilecek.