Birkaç gün önce Nvidia, AMD’nin son sunumunda Instinct MI300X hızlandırıcıyı Nvidia H100 ile hatalı bir şekilde karşılaştırdığını belirten bir materyal yayınladı. Ve eğer doğru bir şekilde karşılaştırırsanız Nvidia’nın çözümü daha hızlı olacaktır. Artık AMD, rakibinin saldırısına, rakibinin yanlış karşılaştırmalar yaptığını söyleyerek yanıt verdi.
AMD, Nvidia’nın karşılaştırmasında üç yöntem kullandığını belirtiyor:
- H100 hızlandırıcı için AMD testlerinde vLLM yerine TensorRT-LLM kütüphanesi kullanıldı
- AMD Instinct MI300X’te FP16 modunda H100’de FP8 moduyla performans karşılaştırması
- Yayınlanan AMD performans verileri, göreceli gecikmeden mutlak verime dönüştürüldü
Sonuç olarak AMD, hızlandırıcıları yeniden test etti ve güya bunları mümkün olduğu kadar doğru bir şekilde karşılaştırdı. Şirket aynı anda iki karşılaştırma yaptı: hem hızlandırıcılar için vLLM kütüphanesi hem de farklı kütüphaneler.
Gördüğünüz gibi AMD testlerine göre Instinct MI300X hala önemli ölçüde daha hızlı.