Nvidia CEO’su Jensen Huang, Spectrum-X’in ilk yinelemesini, Spectrum-4 çipini, 90 milimetreye 90 milimetrelik bir kalıpta yüz milyar transistörle tanıttı. Nvidia
>
Nvidia CEO’su Jensen Huang, Pazartesi günü Tayvan’ın Taipei kentinde düzenlenen Computex ticaret fuarı açılış konferansında, yapay zeka görevleri için büyük miktarda veri taşımak üzere tasarlanmış yeni bir tür Ethernet anahtarı da dahil olmak üzere bir dizi yeni ürünü tanıttı.
Huang, açılış konuşmasında “Her veri merkezini üretken bir yapay zeka veri merkezine dönüştürmek için diğer her şeyle geriye dönük uyumlu yeni bir Ethernet’i nasıl tanıtacağız?” diye sordu. Huang, “İlk kez, yüksek performanslı bilgi işlemin yeteneklerini Ethernet pazarına getiriyoruz” dedi.
Nvidia’ya göre, bu Ethernet bağlantısı ailesine verilen isim olan Spectrum-X, “AI için dünyanın ilk yüksek performanslı Ethernet’idir”. Ağlardan sorumlu kıdemli başkan yardımcısı Gilad Shainer, bu teknolojinin en önemli özelliklerinden birinin “paketleri düşürmemesi” olduğunu söyledi.
Spectrum-4, Spectrum-X’in ilk tekrarı
Nvidia, Spectrum-X’in ilk yinelemesinin Spectrum-4 olduğunu söyledi ve buna “dünyanın özellikle yapay zeka ağları için tasarlanmış ilk 51 TB/sn Ethernet anahtarı” adını verdi. Anahtar, Nvidia’nın BlueField veri işleme birimi veya DPU, veri arama ve sıralamayı yöneten yongalar ve Nvidia’nın fiber optik alıcı-vericileri ile birlikte çalışır. Şirket, anahtarın 128 adet 400 gigabit Ethernet bağlantı noktasını veya 64 adet 800 gigabit bağlantı noktasını ağ üzerinden yönlendirebileceğini söylüyor.
Huang, Spectrum-4 ethernet anahtarının gümüş çipini sahnede tanıttı ve “4N” işleme teknolojisi ile inşa edilmiş 90 milimetreye 90 milimetrelik bir çip üzerinde yüz milyar transistörden oluşan “devasa” olduğunu söyledi. . Huang, odanın 500 watt’ta çalıştığını söyledi.
Huang, “İlk kez, Ethernet pazarına yüksek performanslı bilgi işlem yetenekleri getiriyoruz” dedi. Nvidia
Spectrum-4, yapay zeka iş yükleri için kayıpsız paket iletimi sağlamak üzere tasarlanmış yeni bir Ethernet türü olan Spectrum-X yongaları serisinin ilkidir. Nvidia
Spectrum-X ailesi, veri merkezi çatallanmasını iki yönde ele almak için tasarlanmıştır. İlki, “Yapay zeka fabrikaları” dediği, en güçlü GPU’lar için yüz milyonlarca dolara mal olan, yapay zeka eğitimi için kullanılan Nvidia’nın NVLink ve Infiniband’ına dayanan tesisler. Diğer veri merkezi, Spectrum-X tarafından sunulacak olan AI tüketicilerine tahminler sunmaya odaklanan AI bulutudur (çok kiracılı, Ethernet tabanlı).
VP Shainer, Spectrum-X’in, ağ yönlendiricilerinin arabelleğinde meydana gelebilecek paket istiflemesini önleyen “yeni bir tıkanıklık kontrol mekanizması” kullanarak “ağ boyunca trafiği mümkün olan en iyi şekilde dağıtabileceğini” söyledi. “Ağı tıkanıklıktan uzak tutmak için etkin noktaları belirlemek üzere ağ genelindeki gecikmeleri anlamak için yeni telemetri kullanıyoruz.” Nvidia, “dünyanın önde gelen hiper ölçekleyicilerinin NVIDIA Spectrum-X’i benimsediğini” söyledi.
Bir gösteri olarak Nvidia, Spectrum-4 üzerinden veri çalıştıran H100 GPU’lardan oluşan Dell PowerEdge XE9680 sunucularını kullanan, “üretken yapay zeka süper bilgisayarı” olan Israel-1 adlı İsrail’deki ofislerinde bir test bilgisayarı inşa ediyor.
Yapay zeka için bir bilgisayar olan DGX
Bu yeni Ethernet teknolojisine ek olarak Huang, “DGX” yapay zeka bilgisayar serisinde yeni bir model olan DGX GH200’ü tanıttı ve şirketin “dev üretken yapay zeka modelleri için yeni bir büyük bellekli yapay zeka süper bilgisayar sınıfı” olarak tanımladığı DGX GH200.
Üretken yapay zeka, bazen metin, bazen görüntü veya OpenAI’nin ChatGPT botu gibi diğer yapıtlar şeklinde puandan daha fazlasını üreten programları ifade eder. GH200, şirketin “süper çipi” olarak adlandırdığı, tek bir devre kartı üzerinde bir Hopper GPU ve amaçlanan ARM talimatları oyununa dayalı bir işlemci olan Grace CPU içeren Grace Hopper kartıyla birlikte gönderilen ilk sistemdir. Intel ve Advanced Micro Devices’ın (AMD) x86 işlemcileriyle rekabet etmek için.
Şirket, Grace işlemci (solda) ve Hopper GPU’yu içeren bir kart olan Nvidia’nın Grace Hopper “süper çipinin” şu anda tam üretimde olduğunu söyledi. Nvidia
Huang, Grace Hopper’ın ilk yinelemesi olan GH200’ün “tam üretimde” olduğunu söyledi. Nvidia, “Avrupa ve Amerika Birleşik Devletleri’ndeki küresel hiper ölçekleyiciler ve süper bilgi işlem merkezleri, GH200 destekli sistemlere erişebilecek müşteriler arasında yer alıyor” dedi.
Nvidia’ya göre, DGX GH200, 144 terabayt paylaşılan bellek kullanarak 1 exaflops’luk bir birleşik güç – 18’in on katı veya saniyede bir milyar milyar kayan nokta işlemi – elde etmek için 256 süper çipi birleştiriyor. Nvidia’ya göre bilgisayar, 2020’de piyasaya sürülen orijinal DGX A100 makinesinden 500 kat daha hızlı.
Sunucu değişkenleri oluşturmak için bir referans mimarisi olan MGX
Konferans ayrıca, sistem üreticilerinin 100 birimden daha büyük sunucu varyantları oluşturmasına olanak tanıyan bir referans mimarisi olan MGX’i de tanıttı. Bu spesifikasyonu kullanan ilk ortaklar ASRock Rack, ASUS, GIGABYTE, Pegatron, QCT ve Supermicro’dur. Nvidia, QCT ve Supermicro’nun ağustos ayında sistemleri ilk göndereceklerini söyledi.
MGX, bilgisayar sistemi üreticilerinin Nvidia yongalarını kullanarak hızlı ve uygun maliyetli bir şekilde 100’den fazla sunucu çeşidi oluşturmasına olanak tanıyan bir referans mimarisidir. Nvidia, QCT ve Supermicro’nun Ağustos ayında sistemleri ilk göndereceklerini söyledi. Nvidia
Kaynak : “ZDNet.com”