Nvidia, San Jose, Kaliforniya’daki GTC 2024 açılış konuşmasında Blackwell adlı yeni nesil AI GPU’sunu açıkladı.
Nvidia, yeni nesil AI çipine onuruna isim verdi David Harold Blackwell (1919–2010), oyun teorisi, olasılık teorisi, bilgi teorisi vb. kuran 20. yüzyıl Amerikalı matematikçi.
Nvidia CEO’su Jensen Huang, açılış konuşmasında “Dünyanın her yerindeki dillerdeki metinleri, görselleri, grafikleri ve hatta videoları öğrenmek ve taklit etmek için daha güçlü GPU’lara ihtiyacımız var” dedi.
Nvidia, LLM işlem hızlarını 30 kata kadar artırdığını iddia ediyor
Blackwell GPU, TSMC’nin Tayvan’daki 4 nanometre işlemi kullanılarak yapılan iki yarı iletken kalıbın 280 milyar transistörle bağlanmasıyla yapılan bir çiptir. İki kalıp tek bir çip gibi çalışarak saniyede 10 terabayt (TB) veri alışverişi yapıyor.
Yerleşik özellikler arasında, 576’ya kadar GPU arasında saniyede 1,8 TB veri gönderip alabilen bir bağlantı yolu olan 5. nesil NVLink, GPU’nun güvenilirliğini doğrulayan yapay zeka destekli bir RAS motoru ve verileri şifreleyen Güvenli Yapay Zeka yer alır. hassas veriler ve orijinalliğini garanti eder.
İki Blackwell GPU ve bir Grace işlemciden oluşan GB200 hızlandırıcı (Fotoğraf: nvidia)
Daha da ileri gitmek için Nvidia, iki Blackwell GPU ve bir Grace işlemciden oluşan GB200’ü sundu. GB200 NVL72, saniyede 1,4 exaflop yapay zeka hesaplama kapasitesine sahiptir ve 30 TB HBM3e belleğe sahiptir. Nvidia, bu sistemle geleneksel 36 H100 sistemine kıyasla LLM (geniş dil modeli) işlem hızlarını 30 kata kadar artırdığını iddia ediyor.
Nvidia ayrıca Intel Xeon ve AMD Epic gibi mevcut x86 işlemcileri kullanabilen bir hızlandırıcı olan HGX B200’ü de piyasaya sürüyor. Sekiz TensorCore B200 GPU içerir ve verileri saniyede 400 Gbps’ye kadar hızlarda aktarmak için Nvidia’nın Quantum2 Ethernet ağını kullanır.
Blackwell çipinin bu yılın sonlarında piyasaya sürülmesi bekleniyor. Aralarında Cisco, Dell Technologies, HPE, Lenovo ve Supermicro’nun da bulunduğu büyük sunucu satıcıları da Blackwell tabanlı sunucular sunacak.
Nvidia, kendi DGX bulutuna ek olarak Amazon Web Services (AWS), Google Cloud ve Microsoft Azure dahil olmak üzere dünya çapındaki büyük bulut sağlayıcıları aracılığıyla Blackwell bulut sunucuları sunacak.
Kaynak : “ZDNet Kore”