GPU’lar neden yüksek bant genişlikli belleğe ihtiyaç duyar?
Lee’ye göre, HBM yongaları olmadan bir veri merkezi sunucusunun bellek sistemi GPU gibi yüksek performanslı bir işlemciye ayak uyduramaz. HBM’ler GPU’lara işledikleri verileri sağlar. Lee, “Yapay zeka hesaplaması için GPU satın alan herkesin aynı zamanda yüksek bant genişlikli belleğe de ihtiyacı olacak” dedi.
“Başka bir deyişle, yüksek performanslı GPU’lar yetersiz şekilde kullanılacak ve çoğu zaman boşta veri aktarımlarını bekleyecektir. Özetle, SK Hynix bellek yongalarına olan yüksek talep, Nvidia GPU yongalarına olan yüksek talepten kaynaklanıyor ve daha az bir ölçüde de AMD, Intel ve diğerleri gibi alternatif yapay zeka yongalarına olan talepten kaynaklanıyor” dedi.
Gartner analisti Gaurav Gupta, “HBM nispeten yeni ve HBM’nin sunduğu daha fazla bant genişliği ve kapasite sayesinde güçlü bir ivme kazanıyor” dedi. “Nvidia ve Intel’in sattıklarından farklı. SK Hynix dışında HBM için de durum diğer hafıza oynatıcıları için de benzer. Nvidia için kısıtlamalar olduğuna inanıyorum ama daha çok dökümhanelerdeki çiplerin paketleme kapasitesiyle ilgili.”
Lee’ye göre, SK Hynix tedarik sınırlarına ulaşırken Samsung ve Micron, HBM üretimini artırıyor ve pazar daha dağınık hale geldikçe talebi destekleyebilmeli.
Mevcut HBM kıtlığı esas olarak teknolojinin tek tedarikçisi olan TSMC’nin (yani substrat üzerinde çip veya CoWoS) ambalajından kaynaklanmaktadır. Lee’ye göre TSMC, SOIC kapasitesini iki katından fazla artırıyor ve CoWoS kapasitesini %60’tan fazla artırıyor. Bu yılın sonuna kadar sıkıntıların azalmasını bekliyorum” dedi.
Lee’ye göre aynı zamanda, daha fazla ambalaj ve dökümhane tedarikçisi çevrimiçi oluyor ve teknolojilerini NVIDIA, AMD, Broadcom, Amazon ve TSMC’nin çip paketleme teknolojisini kullanan diğerlerini destekleyecek şekilde nitelendiriyor.