Bugün, NVIDIA ilan edildi ilk DGX H100 sistemlerinin AI iş yüklerini geliştirmek için dünyanın her yerindeki müşterilere gönderildiğini.
NVIDIA DGX H100 GPU Destekli Sistemler Artık Yapay Zeka İş Yüklerini Güçlendirmek İçin Dünya Çapında Sevk Ediliyor
GTX 2022’de duyurulan NVIDIA Hopper H100, 4000 TFLOP’a kadar AI bilgi işlem gücü sağlayan, dünyanın ilk ve en hızlı 4nm Veri Merkezi çipi unvanını aldı. 80 milyar transistör, ışık hızında HBM3 bellek ve NVLINK özelliklerine sahip yepyeni bir GPU mimarisine sahip olan bu çip, özellikle Yapay Zeka (AI), Makine Öğrenimi (ML), Derin Sinir Ağı (DNN) ve çeşitli HPC odaklı bilgi işlem iş yükleri.
NVIDIA, şimdi ilk DGX H100 Hazne sistemlerinin Tokyo’dan Stockholm’e müşterilere gönderildiğini söylüyor. Şirket, baskı ayağında, Hopper H100 GPU’ların ChatGPT (GPT-4) gibi araçlarla dünyayı kasıp kavuran üretken yapay zekayı çalıştırmak için doğduğunu belirtiyor. CEO Jensen Huang, ChatGPT’yi bilgi işlem için şimdiye kadar yapılmış en büyük şeylerden biri olarak adlandırdı ve bunun AI’nın iPhone anı olduğunu söyledi. Şirket, AI GPU’ları için büyük bir talep gördü ve bu da stoklarının hızla yükselmesine neden oldu.
NVIDIA, bu üretim araçlarına güç sağlamaktan sorumlu dünyanın en iyi veri merkezi istemcilerinden bazılarına güç sağlama sorumluluğuna liderlik ediyor. Bazı şirketler aşağıda listelenmiştir:
Boston Dynamics AI Enstitüsü (The AI Institute), kökleri robot biliminin tanınmış öncüsü Boston Dynamics’e kadar uzanan bir araştırma kuruluşu, bu vizyonu gerçekleştirmek için bir DGX H100 kullanacak. Araştırmacılar, maharetli mobil robotların fabrikalarda, depolarda, afet bölgelerinde ve nihayetinde evlerde insanlara yardım ettiğini hayal ediyor.
Makas Londra ve New York’ta ofisleri vardır ve yasal süreçleri daha verimli hale getirmek için GPT destekli bir sohbet robotu kullanır. Scissero GPT, yasal belgeler hazırlayabilir, raporlar oluşturabilir ve yasal araştırmalar yürütebilir.
Almanyada, Derin L Japonya’nın en büyük yayıncılık şirketi Nikkei de dahil olmak üzere müşterilerine sağladığı onlarca dil arasında çeviri gibi hizmetleri genişletmek için birkaç DGX H100 sistemi kullanacak. DeepL kısa süre önce DeepL Write adlı bir AI yazma asistanı yayınladı.
Tokyo’da, DGX H100’ler, ilaç keşif sürecini hızlandırmak için simülasyonları ve yapay zekayı çalıştıracak. Tokyo-1 süper bilgisayar. Xeureka Sistemi — Japonya’nın en büyük holdinglerinden biri olan Mitsui & Co. Ltd. tarafından Kasım 2021’de başlatılan bir girişim — sistemi yönetecek.
Ama hepsi bu kadar değil. Görüyorsunuz, NVIDIA yavaş yavaş bir donanım şirketinden bir yazılım şirketine ve sağlayıcısına geçiş yapıyor. GPU’lar ve HPC sistemleri gibi donanımlar yapmak bir şeydir, ancak onları sürmek daha önemli bir görevdir. Bu amaçla, NVIDIA, GPU’larından her bir meyve suyunu sıkmak için tasarlanmış geniş bir yazılım yığınına sahiptir. NVIDIA’nın Base Command ve AI Enterprise gibi yazılım paketleri ve tüm CUDA çerçevesi, müşterilerinin ve ortaklarının kullanımına sunulan tüm NVIDIA yazılım yığınının yapı taşlarıdır.
“NVIDIA’da zamanımızın %20’sini donanıma ve %80’ini yazılıma harcıyoruz.
Donanımımızın neyi yapıp neyi yapamayacağını anlamak için sürekli olarak algoritmalar üzerinde çalışıyoruz. AI tam yığın bir sorundur.”
– Manuvir Das, Kurumsal Bilgi İşlem Başkanı$NVDA… pic.twitter.com/zFM4XNbjVJ
—Simon Erickson (@7Innovator) 1 Mayıs 2023
NVIDIA’nın Yazılım yığını yıllar içinde o kadar gelişti ki, NVIDIA’nın Kurumsal Bilgi İşlem Başkanı Manuvir Das toplantı sırasında söyledi. Gelecek Hesaplama olayı NVIDIA artık zamanının %20’sini donanıma ve %80’ini yazılıma harcıyor. Ayrıca şirketin sürekli olarak, donanımlarının neleri yapıp neleri yapamayacağını anlamalarına yardımcı olan algoritmalar üzerinde çalıştığını söyledi.
GPU devi ve yonga üreticisi, yeni nesil GPU’yu geliştirmek için kendi AI ilerlemesinden de yararlanacak. Makine Öğreniminin yardımıyla NVIDIA, çipleri “İnsanlardan Daha İyi” yapabilecek ve cuLitho ile birlikte aynı çipler geleneksel tasarımlardan 40 kat daha hızlı tasarlanacak ve üretilecek. NVIDIA, bu teknolojinin benimsenmesine yardımcı olmak için ASML ve TSMC ile birlikte çalışmaktadır.
MLPerf tarafından yayınlanan son kıyaslamalarda, NVIDIA’nın Hopper H100 dahil olmak üzere GPU’ları, çıkarım yapma ve derin öğrenme gibi yapay zeka görevlerinde performansta ciddi bir iyileşme gördü. Bu, sürekli yazılım yığını güncellemeleri ve büyümeye devam eden yenilikler sayesinde bir kez daha elde edildi.