Yakın zamanda yapılan bir anket, yapay zeka profesyonellerinin büyük bir bölümünün NVIDIA’dan AMD Instinct MI300X GPU’lara geçiş yapmak istediğini ortaya çıkardı.
AMD’nin Instinct MI300X’i, Büyük İlgi Çektiğinden Firmanın Devam Eden Yapay Zeka “Altına Hücum”a Girişine Açılan Kapı Olabilir
Jeff Tatarchuk’ta çalışıyor Tensör Dalgası, yakın zamanda 82 mühendis ve yapay zeka uzmanıyla anket yaptı ve bunların yaklaşık %50’sinin, AMD Instinct MI300X GPU’yu kullanmaya güvendiklerini ifade ettiğini, bunun NVIDIA gibi muadilleriyle karşılaştırıldığında daha iyi bir fiyat-performans oranı sunmasının yanı sıra kapsamlı kullanılabilirliğe sahip olduğunu düşündüklerini iddia etti. H100’ler. Bunun dışında Jeff, TensorWave’in MI300X AI hızlandırıcılarını kullanacağını da söylüyor; bu da Team Red için umut verici bir haber, Instinct serisinin genel olarak NVIDIA gibi diğerlerine kıyasla benimsenme düzeyini görmediğini düşünüyor.
Yakın zamanda 82 mühendis ve yapay zeka uzmanı arasında yapılan bir ankette, katılımcıların %50’sinin aktif olarak AMD Instinct MI300X GPU’yu kullanmayı düşündüğü belirtildi.
AMD MI300X’i düşünmenin ilk üç nedeni sırasıyla kullanılabilirlik, maliyet ve performanstır.
Biz… pic.twitter.com/ZckHBj6b20
— Jeff Tatarchuk (@jtatarchuk) 8 Mart 2024
MI300X Instinct AI GPU’yu kısaca özetlemek gerekirse, yalnızca CDNA 3 mimarisi üzerine tasarlandı ve pek çok şey yapılıyor. 153 Milyar transistöre (MI300X) kadar sunmak için bir araya getirilen 5nm ve 6nm IP’lerin bir karışımını barındırır. Bellek, MI300X’in selefi MI250X’e (128 GB) göre %50 daha fazla HBM3 kapasitesine sahip olmasıyla büyük bir yükseltmeye tanık olunan başka bir alandır. NVIDIA H100 ile karşılaştırması şu şekilde:
- 2,4 Kat Daha Yüksek Bellek Kapasitesi
- 1,6 Kat Daha Yüksek Bellek Bant Genişliği
- 1,3X FP8 TFLOPS
- 1,3X FP16 TFLOPS
- 1v1 Karşılaştırmada H100 (Llama 2 70B)’ye Karşı %20’ye Kadar Daha Hızlı
- 1v1 Karşılaştırmasında H100’e (FlashAttention 2) Karşı %20’ye Kadar Daha Hızlı
- 8v8 Sunucuda H100’e (Llama 2 70B) Karşı %40’a Kadar Daha Hızlı
- 8v8 Sunucuda H100’e (Bloom 176B) Karşı %60’a Kadar Daha Hızlı
Yakın zamanda AMD’nin amiral gemisi Instinct AI hızlandırıcısının pazardaki rakipler için nasıl “baş ağrısına” yol açtığını bildirmiştik. Bunun nedeni, yalnızca MI300X ile elde edilen performans kazanımlarının çok büyük olması değil, aynı zamanda NVIDIA’nın şu anda yeni müşteri kazanmadaki büyümesini engelleyen sipariş birikimlerinin “ağırlığına” takılıp kalması nedeniyle AMD’nin piyasaya sürülmesini mükemmel bir şekilde zamanlamasıdır. Kırmızı Takım istediği başlangıcı alamamış olsa da, önümüzdeki dönem firma için verimli geçebilir ve potansiyel olarak pazardaki rakiplerle kafa kafaya gelebilir gibi görünüyor.
Haber kaynağı: Jeff Tatarçuk