Gigabyte, Nvidia A100 Sunucuları için CoolIT Doğrudan Sıvı Soğutmayı Benimsiyor

Gigabyte’ın sahip olduğu tanıtıldı CoolIT tarafından tasarlanan doğrudan sıvı soğutma sistemine sahip ilk AMD EPYC ve Nvidia A100 tabanlı yüksek performanslı bilgi işlem (HPC) sunucuları. Yeni makineler, toplamda 128 çekirdeğe ve dört veya sekiz Nvidia A100 80GB SXM4 modülüne sahip bir veya iki AMD EPYC 7003 serisi ‘Milan’ işlemciye sahip.

Gigabyte’ın 4 yollu 2U’su G262-ZL0 ve 8 yollu 4U G492-ZL2 makineler, nispeten küçük bir alana mümkün olduğunca çok sayıda sunucu kurma eğiliminde olan yüksek yoğunluklu AI ve HPC kurulumları (araştırma laboratuvarlarında veya üniversitelerde kullanılanlar gibi) için tasarlanmıştır ve bunların istikrarlı çalışmasını ve öngörülebilir performansını garanti eder. Bu tür kullanım durumlarında termaller bir sorun haline gelir, bu nedenle doğrudan sıvı soğutma çok mantıklıdır. Bu arada, Gigabyte’ın sunucu tasarımları benzersiz olduğundan, büyük bir sıvı soğutma uzmanı olan CoolIT’in geliştirmesi gerekiyordu. tescilli bir doğrudan sıvı soğutma sistemi en yüksek performansı sağlamak için CPU’ları ve GPU’ları ayrı ayrı soğutur.

İki adede kadar 64 çekirdekli AMD EPYC 7003 serisi ‘Milan’ işlemciye dayanan makineler, 128 veya 256 PCIe 4.0 hattına sahiptir ve RDIMM veya LRDIMM modülleri kullanılarak 4 TB veya 8 TB DDR4 belleği destekler.

Makineler ayrıca Nvidia’nın şirketin Magnum IO yazılım yığınını tam olarak destekleyen HGX platformunu kullanıyor. Verileri yerel ve uzak depolamadan GPU belleğine taşımak için doğrudan bir veri yolu için Magnum IO GPUDirect depolamayı ve GPU’lar ile ağ bağdaştırıcıları gibi üçüncü taraf cihazlar arasında doğrudan veri alışverişi için GPUDirect RDMA’yı içerir. Ayrıca, 4 yollu ve 8 yollu Nvidia A100 GPU kompleksleri, 600 GB/s’de GPU eşler arası iletişimi sağlamak için Nvidia’nın NVLink ve NVSwitch ara bağlantılarını tam olarak destekler.

Müthiş işlem gücüne ek olarak, yeni makineler ayrıca nispeten iyi bir genişletilebilirlik sunuyor. Daha küçük olan G262-ZL0 makinesi, dört adet 2,5 inç sürücü (U.2 veya SATA), PCIe 4.0 x4 arabirimli üç M.2 SSD, beş adet düşük profilli genişletme kartı ve bir adet PCI 3.0 kartı paketleyebilir. Bu arada, daha büyük G262-ZL2 altı adet 2,5 inçlik yuva (U.2 veya SATA), iki adet M.2 yuvası ve düşük profilli kartlar için on adet genişletme yuvası sunar. Genişletme yuvaları, dört bağlantı bağlantı noktası ve 400 Gb/s’ye kadar çıktı için Nvidia’nın Mellanox ConnectX-7 SmartNIC’si gibi gelişmiş ağ kartlarını takmak için kullanılabilir.

Güç kaynağına gelince, 4 yollu GPU sunucusu 3000W yedekli bir PSU ile gelirken, 8 yollu GPU makinesi 3+1 3000W PSU’lar ile birlikte gelir.