Piyasadaki en gelişmiş GPU’ların performansını öğrenmek isteyen Stability AI, bunlardan üçünü karşılaştırmaya karar verdi: Intel’in Gaudi 2’sinin yanı sıra Nvidia’nın A100 ve H100’ü. Britanyalı start-up için sonuç açık: Intel, daha verimli bir GPU sunarak rakibini fazlasıyla yakaladı.
Intel, Nvidia’nın güçlü rekabetine rağmen performans açısından iyi durumda
Stabilite AI, üç yapay zeka (AI) hızlandırıcısını karşılaştırmak için bunları kullandı iki modelini eğitmek için. Bunlardan ilki, girişimin en son görüntü oluşturma modelleri serisi olan Stable Diffusion 3’tür. Şubat ayının sonunda tanıtılan ve şu anda kısıtlı erişime açık olan genç şirket, ilk olarak testlerini 2 milyar parametre içeren versiyonla yapmaya karar verdi.
Şirket, 16 Gaudi 2 hızlandırıcıdan yararlanarak saniyede 927 kare işleyebildi ve 16 H100-80GB’den %65 daha hızlı bir işlem hızı sağladı. Daha sonra Stability AI, 256 GPU’dan yararlanarak vites yükseltti. Bu senaryoda Intel’in çipleri, Nvidia’nın A100’ünün 3.992’sine kıyasla saniyede 12.654 görüntü işleyerek Stable Diffusion 3’ün iki milyar parametreli versiyonunu oluşturmada daha verimliydi. Testin H100 çipleri için yapılmadığını unutmayın.
Başlangıç, büyük bir dil modelinin eğitimini tamamlamak ve onu verimli hale getirmek için çok önemli bir adım olan çıkarım aşamasında çipleri test ederek daha da ileri gitti. Bu durumda testler şirketin en gelişmiş modeli olan sekiz milyar parametreli model üzerinde gerçekleştirildi. Gaudi 2 çipleri, A100’lerinkine benzer çıkarım hızı sunuyordu, ancak ikincisinin, Nvidia tarafından geliştirilen derin öğrenmeye adanmış yazılım geliştirme kiti TensorRT ile optimize edildiğinde görüntüleri daha hızlı ürettiğini belirtti.
Son olarak Stability AI, Intel Gaudi 2 ve Nvidia A100’ü, Meta tarafından sunulan açık kaynak LLM LLaMA 2’yi temel alan 70 milyar parametreli bir model olan Stable Beluga 2.5 üzerinde test etti. Burada da 256 AI hızlandırıcı Gaudi 2, Gaudi 2’yi eğitmek için kullanıldı. modeli. Başlangıç, saniyede 116.777 sonuçluk toplam ortalama çıktı ölçtü ve bu sonucu etkileyici buldu. Çıkarım testi söz konusu olduğunda, Gaudi 2 bir kez daha A100’den daha iyi performans göstererek saniyede 673 sonuç üretirken, Nvidia GPU’nun bu rakamı 525’e çıkardı.
Intel, sektör lideri çiplerin güncel versiyonlarını yakalamış gibi görünüyorsa önümüzdeki aylarda H100 ile rekabet edecek şekilde Gaudi 3’ü konuşlandırarak çalışmalarına devam etmeli. Ancak rekabet zorlu olacak çünkü dönem sonunda Nvidia H200’ü resmi olarak piyasaya sürecek ve potansiyel olarak Intel karşısında liderliği yeniden kazanacak.