AMD’nin Instinct MI300X GPU’su piyasaya sürüldüğünde, 1KW’a yakın güç tüketerek güce en aç çip olacak.
AMD Instinct MI300X GPU, Güçlü ve Güce Aç Bir Yongadır, 750 W Güç Tüketir
NVIDIA H100 GPU, 700 W’a varan nominal güç tüketimiyle piyasaya sunulduğundan beri güce en aç veri merkezi yongası olmuştur. Ancak bu, daha da fazla güç tüketecek olan Instinct MI300X ile değişir.
AMD Instinct MI300X sunumunun dipnotlarında OAM GPU hızlandırıcının 750W güç tükettiği söyleniyor. Karşılaştırma için, CDNA 2 GPU mimarisine dayalı Instinct MI250X GPU’lar 500 ila 560 Watt arasında güç tüketti. Böylece güç gereksinimleri tek bir nesilde %34-50 arttı. Aynı zamanda, çipin tasarımı ve sunduğu performans göz önüne alındığında bu güç artışı beklenebilirdi. Çip, yapay zeka iş yüklerinde 8 kat performans artışı sağlarken 5 kat daha verimli.
AMD Instinct MI300X GPU’nun, MI250X’te bulunan 220 Bilgi İşlem Birimi yerine 304 CDNA 3 bilgi işlem birimi içermesi bekleniyor. Bu %38’lik bir artış demek. Ayrıca çip, HBM3 belleğini 192 GB kapasitelerde paketliyor. Bu, MI250X tarafından kullanılan 128 GB HBM2e bellekten %50 daha fazla ve HBM3’ten bahsettiğimiz için, ayrıca çok daha yüksek aktarım hızları göreceğiz.
Instinct MI300X GPU’nun ve devasa 192 GB VRAM’inin büyük bir avantajı, rakiplerinden daha az GPU’da büyük dil modellerini çalıştırabilmesidir. Instinct MI300X, rakibin 80 GB H100 çiplerinden daha az miktarda GPU ile 540 Milyar parametreye kadar LLM çalıştırabilir.
Bu güç gereksinimleri, GPU’lar ve HPC hızlandırıcıları daha güçlü hale geldikçe artmaya devam eder. Yakın tarihli bir Gigabyte Sunucu yol haritası, CPU’ların, GPU’ların ve APU’ların 1000 W güç bariyerine nasıl yaklaştığını gösteriyor. AMD kesinlikle güce en çok aç çipe sahip ama kırmızı ekip ayrıca güç gereksinimlerini önemli ölçüde azaltmalarına olanak tanıyan bir dizi yonga ve paketleme teknolojisine yatırım yaptı.
ISSCC 2023 konferansı sırasında AMD’nin CEO’su Dr. Lisa Su, yeni tasarımlar benimsenmeseydi, Zettascale bilgi işlemin enerji talebini karşılamak için bir Nükleer Reaktör gerektireceğini ve bunun yalnızca bir sistem için olduğunu belirtti. Bununla birlikte, MI300X GPU’lar, özellikle PCIe form faktörlerinde olmak üzere daha düşük güç gereksinimleriyle muhafazakar varyantlarda da mevcut olacak. Bunlar henüz açıklanmadı, ancak 2024 yılına kadar gelmeleri bekleniyor.