Intel, Gaudi adaptör ailesi aracılığıyla AI hızlandırıcı pazarında yer edinmeye çalışıyor. Ve zaten ikinci neslin oldukça başarılı olduğu ortaya çıktı. Özellikle Gaudi 2, GenAI’nin Llama-70B ve Stable Diffusion XL gibi iş yüklerindeki yeteneklerini gösteren yeni MLPerf v4.0 kriterlerinde dolar başına performans açısından önde gelen Nvidia H100 ile rekabet ediyor.
Doğru, Intel’in kendisi karşılaştırdı, ancak en azından bunlar kendi testleri değildi. Sekiz Gaudi 2 hızlandırıcı ve sekiz H100 hızlandırıcıya sahip sistemler karşılaştırıldı. Nvidia hızlandırıcının saf performansı kesinlikle daha yüksektir. Ve birçok kez daha yüksek. Ancak Intel ürünü çok daha ucuz. Ve sonuç olarak dolar başına performans açısından Gaudi 2 bazen rakiplerinden bile daha iyi performans gösteriyor. Geçtiğimiz günlerde Nvidia’nın başkanının, rakipler hızlandırıcılarını bedava verseler bile bunun çok pahalı olacağını söylediğini hatırlayalım.
Elbette önemli olan dolar başına verimlilik bile değil. Ayrıca bakım, enerji tüketimi, çok yönlülük ve yazılım optimizasyonu vb. maliyetleri de vardır. Ancak en azından Nvidia’nın hiçbir rakibinin olmadığı kesin olarak söylenemez.