Nvidia perşembe günü bir rapor yayınladı. video Bu, veri merkezi ölçeğinde gelişmiş yapay zeka gelişimi için tasarlanan en yeni kurumsal odaklı süper bilgisayarı ve şirketin en hızlı yapay zeka süper bilgisayarı olan Eos’un mimarisine ilk kez genel bakış sağlıyor.
Şu anda Nvidia’nın kendisi tarafından kullanılan Eos makinesi dünyanın en iyi makinelerinden biri olarak sıralanıyor. En yüksek performansa sahip 9. süper bilgisayar en son İlk 500 listesiFP64’te ölçülen; saf yapay zeka görevlerinde muhtemelen en hızlısıdır. Bu arada, planı diğer şirketler için kurumsal odaklı süper bilgisayarlar oluşturmak için de kullanılabilir.
Nvidia videoda şunları belirtti: “EOS her gün, binlerce Nvidia şirket içi geliştiricisinin AI araştırması yaparak karşılaştığı zorlukların üstesinden gelmek ve daha önce çözülemeyen sorunları çözmelerine yardımcı olmak için yükseliyor.”
Nvidia’nın Eos’u her biri yapay zeka (AI) ve yüksek performanslı bilgi işlem (HPC) iş yükleri için sekiz adet Nvidia H100 GPU içeren 576 DGX H100 sistemiyle donatılmıştır. Sistem toplamda 1.152 Intel Xeon Platinum 8480C (CPU başına 56 çekirdek) işlemcinin yanı sıra 4.608 H100 GPU’yu barındırıyor ve Eos’un sırasıyla HPC ve AI için etkileyici bir Rmax 121,4 FP64 PetaFLOPS ve 18,4 FP8 ExaFLOPS performansı elde etmesini sağlıyor.
Eos’un (DGX SuperPOD mimarisine dayanan) tasarımı, ölçeklenebilirliğin yanı sıra yapay zeka iş yükleri için de özel olarak tasarlanmıştır; bu nedenle, 400 Gb/’ye kadar veri aktarım hızlarına sahip Ağ İçi Bilgi İşlem teknolojisine sahip Nvidia’nın Mellanox Quantum-2 InfiniBand’ını kullanır. Bu, büyük yapay zeka modellerini etkili bir şekilde eğitmek ve ölçeklendirmek için çok önemlidir.
Şirket, güçlü donanıma ek olarak, Nvidia’nın Eos’unun yine yapay zeka geliştirme ve dağıtımı için özel olarak tasarlanmış güçlü bir yazılımla birlikte geldiğini söylüyor. Sonuç olarak Nvidia’nın Eos’u, ChatGPT benzeri üretken yapay zekadan yapay zeka fabrikasına kadar çeşitli uygulamalara hitap edebilir.
“Eos, yapay zeka geliştirme ve dağıtım yazılımını içeren entegre bir yazılım yığınına sahiptir. [including] Videoda Nvidia, orkestrasyon ve küme yönetimi, hızlandırılmış bilgi işlem depolama ve ağ kitaplıkları ve yapay zeka iş yükleri için optimize edilmiş bir işletim sistemi söyledi. “Satürn 5 ve Selene gibi önceki Nvidia DGX süper bilgisayarlarından elde edilen bilgilerden oluşturulan Eos, Nvidia AI uzmanlığının iş başındaki en son örneği. […] İşletmeler, Eos gibi bir yapay zeka fabrikası oluşturarak en zorlu projelerini üstlenebilir ve bugün ve gelecekte yapay zeka hedeflerine ulaşabilirler.”
Eos’un maliyetinin ne kadar olduğunu bilmiyoruz ve Nvidia’nın DGX H100 sistemlerinin fiyatlandırmasının gizli olmasının ve hacimler gibi birçok faktöre bağlı olmasının da bir faydası yok. Bu arada, her bir Nvidia H100’ün hacmine bağlı olarak 30.000 – 40.000 $ arasında bir maliyete sahip olabileceği gerçeği göz önüne alındığında, burada rakamların ne kadar yüksek olduğunu düşünmeye başlayabiliriz.
