Intel, AI – Gaudi 3 için yeni nesil hızlandırıcılarını tanıttı. Daha doğrusu, bu, birkaç model içeren bir dizi hızlandırıcıdır.
Gaudi 3 chiplet bir işlemcidir. Bu, bu sınıftaki ürünler için zaten norm haline geldi. Konfigürasyonu iki ana kristal ve sekiz HBM2e bellek yığınından oluşuyor; rakiplerin uzun süredir HBM3 ve onun türevlerine geçiş yaptığı göz önüne alındığında bu garip bir durum.
Çip, TSMC tesislerinde 5 nm işlem teknolojisi kullanılarak üretildi, ancak Intel bazı nedenlerden dolayı transistör sayısını açıklamadı. Ancak 3,7 TB/s bant genişliğine sahip 128 GB’lik bir bellek olduğunu biliyoruz; bu özellik, hızlandırıcı sürümünden bağımsız olarak değişmez. Aynı durum, PCIe 5.0 arayüzü ve 12,8 TB/s aktarım hızına sahip 96 MB SRAM önbellek için de geçerlidir. En üst versiyonun TDP’si etkileyici bir 900 W’a ulaşıyor, ancak 450 ve 600 W versiyonları da var.
Şimdi performansa geçelim. Intel’in verilerini paylaştığı HL-325L sürümü, 1835 TFLOPS, yani neredeyse 2 PFLOPS FP8 performansına sahip. Bu, Gaudi 2’den iki kat daha fazla. BF16 modunda ise yeni ürün dört kat daha hızlı.
Çipin konfigürasyonuna gelince, Gaudi 2 24 TPC çekirdeği kullanıyor ve Gaudi 3 zaten VLIW mimarisini temel alan iki adet 32 TPC çipi kullanıyor.
Yapay zeka hızlandırıcı ölçeklenebilirlik gerektirir. Öncekiler gibi Gaudi3 de ölçeklendirme için kullanılan Ethernet bağlantı noktalarıyla sektörde oldukça benzersiz bir yaklaşım benimsiyor. 24 x 200 Gbps’de verim, Gaudi 2’nin fiilen iki katıdır. Sekiz yapay zeka hızlandırıcı genellikle sunucuya yerleşiktir ve Ethernet aracılığıyla birbirlerine bağlanır. Artık önce bir rafa veya sunucu kabinine, ardından küçük bir kümeye veya hatta çok büyük bir kümeye yatay ölçeklendirme için kullanılanlar bu Ethernet bağlantı noktalarıdır. Daha açık belirtmek gerekirse, Nvidia bu amaç için 1,8 TB/s’ye varan hızlara sahip ünlü NVlink arayüzünü kullanıyor.
Intel elbette Gaudi 3’ü Nvidia H100 ile karşılaştırıyor. Saf performans açısından, görevlere bağlı olarak Gaudi 3 ya biraz daha yavaş ya da fark edilir derecede daha hızlıdır, ancak aynı zamanda enerji açısından iki kat daha verimli olduğu iddia edilir. Ancak Nvidia’nın zaten Blackwell neslini tanıttığını da unutmamak gerekiyor.
Gaudi 3’ün ilk örnekleri yılın bu yarısında ortaklara sunulacak, ancak toplu teslimatların yalnızca ikinci yarıda yapılması bekleniyor.
