Bir analistin, Nvidia’nın yapay zeka (AI) ve yüksek performanslı bilgi işlem (HPC) için kullanılan Hopper tabanlı H100 GPU’larının teslim sürelerinin önemli ölçüde düştüğünü söylemesinden sadece birkaç gün sonra, Nvidia, yeni nesil Blackwell ile tedarik sıkıntısı yaşanmasının beklendiğini söyledi. tabanlı GPU ürünleri.
Nvidia’nın finans şefi Colette Kress, şirketin finansal analistler ve yatırımcılarla yaptığı kazanç görüşmesi sırasında “Talebin arzı çok aşması nedeniyle yeni nesil ürünlerimizin arzının kısıtlı olmasını bekliyoruz” dedi (via Alfa Arayışı).
Şirketin performans tahminlerine göre, Nvidia’nın yeni nesil B100 ürünleri, mevcut Hopper mimarisine kıyasla yapay zeka hesaplama performansını önemli ölçüde artırmayı vaat eden tamamen yeni Blackwell mimarisine dayanıyor. Piyasadaki yüksek performanslı yapay zeka işlemcilerine yönelik yoğun talep göz önüne alındığında, Nvidia’nın mevcut müşterilerinin en azından bazı B100 ürünleri için ön sipariş vermiş olması muhtemeldir.
Tek soru, Nvidia’nın kendi tabanlarında B100 SXM modülleri ve B100 PCIe kartlarının yanı sıra DGX sunucularının üretimini ne kadar hızlı artırabileceğidir. Sonuçta bunlar farklı bileşenlerin kullanıldığı yepyeni ürünler.
Blackwell’in Nvidia’nın çoklu yonga tasarımlarını benimseyen ilk mimarisi olacağı söyleniyor. Durum böyleyse, daha küçük çiplerin verimini en üst düzeye çıkarmak daha kolay olduğundan, Blackwell tabanlı GPU’ların silikon düzeyinde üretimini basitleştirebilir. Ancak diğer yandan çoklu yonga çözümlerinin paketlenmesi daha karmaşık hale geliyor.
Eğitim ve çıkarım için amiral gemisi B100 AI ve HPC GPU’ya ek olarak Nvidia’nın kurumsal ve eğitim uygulamaları için B40 GPU’yu, B100 GPU ile Arm tabanlı Grace CPU’yu birleştiren GB200 ürününü ve büyük dil eğitimi için GB200 NVL’yi hazırlaması dikkat çekicidir. modeller.
Kasım ayında Nvidia, AI ve HPC iş yükleri için H200 hesaplama GPU’sunu tanıttı ve şu anda şirket üretime hız veriyor. Nvidia’nın H200’ü Hopper mimarisine dayanıyor ve temel olarak şirketin mevcut ürün serisini daha yüksek bellek kapasitesi ve bant genişliğiyle yeniliyor. Nvidia, 2022’den bu yana Hopper tedarik zincirini iyileştirdiğinden, ürün artışının nispeten hızlı olması bekleniyor. Bununla birlikte Nvidia’dan Jensen Huang, şirketin bu yeni ürüne olan talebi hemen %100 karşılayamayacağından şikayetçi.
Nvidia’nın genel müdürü Jensen Huang, analistler ve yatırımcılarla yapılan üç aylık kazanç toplantısında, “Bildiğiniz gibi, ne zaman yeni ürünlerimiz olsa, sıfırdan çok büyük bir rakama çıkıyor ve bunu bir gecede yapamazsınız” dedi. “[…] Dolayısıyla, ne zaman yeni nesil ürünlerimiz olsa ve şu anda H200’ü yükseltiyorsak, bu hızlandıkça kısa vadede talebi makul bir şekilde karşılamamızın hiçbir yolu yok.”