Nvidia’nın Blackwell işlemcileri, şirketlerin giderek artan sayıda parametreyle büyük dil modellerini (LLM’ler) eğitmeye çalıştığı günümüzde en çok aranan veri merkezi donanımları arasında yer alıyor. Microsoft’un Blackwell sunucularına el koyan ilk şirket olduğu söyleniyordu ancak bu resmi olmayan bir bilgiydi. Bugün şirket, yalnızca Nvidia Blackwell parçalarını temin etmekle kalmayıp, bunların çalışır durumda olduğunu da söyledi.
“Microsoft Azure ilk buluttur [service provider] Nvidia’nın Blackwell sistemini GB200 destekli yapay zeka sunucularıyla çalıştıran bir Microsoft Azure X okumasında yayınla. “Infiniband ağ iletişimi ve yenilikçi kapalı döngü sıvı soğutmadan yararlanarak dünyanın en gelişmiş yapay zeka modellerini desteklemek için her katmanı optimize ediyoruz. Daha fazlasını MS Ignite’ta öğrenin.”
Yani Microsoft Azure, bilinmeyen sayıda B200 işlemciye (muhtemelen 32) sahip en az bir GB200 tabanlı sunucu rafına sahiptir. Oldukça gelişmiş bir sıvı soğutma sistemi kullanır. Makine, Microsoft’un daha az yoğun varyantlara tercih ettiği söylenen Nvidia’nın NVL72 GB200 modeli değil. Bu özel raf muhtemelen test amacıyla kullanılacak (hem Nvidia Blackwell GPU’lar hem de sıvı soğutma sistemi) ve önümüzdeki aylarda Microsoft, ticari iş yükleri için Blackwell tabanlı sunucuları dağıtacak.
72 B200 grafik işlemcili bir NVL72 GB200 makinesinin yaklaşık 120 kW güç tüketip dağıtması bekleniyor, bu da bu tür makineler için sıvı soğutmayı zorunlu hale getiriyor. Sonuç olarak Microsoft’un Blackwell tabanlı kabinleri dağıtmadan önce kendi sıvı soğutma çözümünü test etmesi iyi bir fikir.
Nvidia’nın B200 GPU’su, FP8/INT8 performansı söz konusu olduğunda H100 işlemciye kıyasla 2,5 kat daha yüksek performans sunuyor (4.500 TFLOPS/TOPS’a karşı 1.980 TOPS). FP4 veri formatı ile Nvidia’nın B200’ü, 9 PFLOPS gibi muazzam bir performans sunarak, genel olarak yapay zeka için yeni kullanım modellerini etkinleştirebilecek son derece gelişmiş LLM’lerin eğitimi için kapıları açıyor.
Microsoft’un CEO’su Satya Nadella, “NVIDIA ile uzun süredir devam eden ortaklığımız ve derin inovasyonumuz, en gelişmiş yapay zeka iş yüklerini güçlendirerek sektöre liderlik etmeye devam ediyor” dedi. başka bir X gönderisi.
Microsoft’un yıllık Ignite konferansında Blackwell tabanlı makineleri ve genel olarak yapay zeka projeleri hakkında daha fazla ayrıntı paylaşması bekleniyor. MS Ignite konferansı 18 Kasım – 22 Kasım 2024 tarihleri arasında Chicago’da gerçekleşecek. Blackwell sunucu kurulumlarının geniş ölçekli dağıtımının bu yılın sonlarında veya 2025’in başlarında artması bekleniyor.
