Salı günü Intel, yapay zeka (AI) iş yükleri için Gaudi2 hızlandırıcılarının dünyadaki ilk büyük dağıtımlarından birini duyurdu. Dell ile işbirliği içinde oluşturulan süper bilgisayar, üretken AI uygulamaları için Stability AI tarafından kullanılacak.
Intel’in yeni süper bilgisayarı, şirketin en yeni Intel Xeon Ölçeklenebilir işlemcilerini temel alıyor ve 4.000’e kadar Intel Habana Gaudi2 AI donanım hızlandırıcısını çalıştırıyor. Her makinenin OAM form faktöründe (OAM makineleri için tipik olan) sekiz Habana Gaudi2 işlemci kullandığını varsayarsak, makinede 500’e kadar düğüm bulunur. Intel’in Gaudi2 müthiş bir performans sunuyor Bu, belirli uygulamalarda Nvidia’nın H100’üyle karşılaştırılabilecek düzeyde olsa da, süper bilgisayarın oldukça güçlü olması gerekir. Muhtemelen 7-8 FP16 ExaFLOPS yapay zeka performansına bakıyoruz.
Intel ve Dell, gelecekte yapay zekalı süper bilgisayarlar için ekip kurmaya devam edip etmeyeceklerini açıklamadı. Bu arada çip tasarımcısı için dünyanın en büyük sunucu tedarikçilerinden birinin, Xeon Ölçeklenebilir CPU’lara ve özellikle yapay zeka iş yükleri için geliştirilmiş Habana Gaudi2 hızlandırıcılara sahip PowerEdge makinelerine sahip olması önemlidir. Bu makineler hem büyük ölçekli eğitimi hem de temel düzeyde çıkarımları gerçekleştirecek şekilde tasarlanmıştır.
Dell’in yanı sıra Alibaba Cloud, 4. Nesil Xeon’un model hizmet platformu DashScope programında Advanced Matrix Extensions (Intel AMX) hızlandırıcıları ve çeşitli yazılım optimizasyonlarıyla birlikte kullanıldığında 3 kat çıkarım hızına ulaşabileceğini söyledi.
Intel’in işlemcileri çok sayıda süper bilgisayara ve hatta AI ve yüksek performanslı bilgi işlem (HPC) uygulamaları için Nvidia’nın DGX H100 sistemlerine güç veriyor, ancak şirketin kendi AI hızlandırıcıları ve hesaplama GPU’ları o kadar şanslı değil ve çok az sayıda Gaudi/Gaudi2 veya Ponte Vecchio tabanlı AI var. bugüne kadarki dağıtımlar. Stabilite AI’nın Gaudi2 ile birlikte çalışmasıyla, diğer şirketlerin de buna bir şans vermeyi seçeceğini görmek ilginç olacak.