Intel, büyük ölçekli AI modellerini eğitmek için gereken süreyi önemli ölçüde azaltabilecek ikinci nesil Gaudi hızlandırıcılarının kapağını kaldırdı.
Dallas’taki Intel Vision 2022’de duyurulan Gaudi 2 işlemciler 7 nm’lik bir süreç üzerine kuruludur, 24 entegre 100GbE RoCE bağlantı noktasına sahiptir ve piyasadaki herhangi bir hızlandırıcının en büyük belleğine sahiptir (96GB HBM2e).
Yeni işlemciler, İsrail merkezli Habana Labs’ın bir ürünü. Intel tarafından emilir 2019’da geri döndü ve sunucular derin öğrenme iş yüklerine adanmıştır.
AI modellerini eğitme
Son yıllarda, ilgili disiplinlerdeki önceki girişlerden çok daha üstün performans sağlayan bir dizi büyük ölçekli doğal dil işleme (NLP) ve bilgisayarla görme modeli ortaya çıkmıştır.
Sorun şu ki, bu multi-milyar parametre modellerini eğitmek inanılmaz derecede yoğun işlem gerektiriyor ve bu nedenle pahalı ve zaman alıcı, bu da teknolojinin gelişmesinde sınırlayıcı bir faktör.
Ancak Intel, yeni Gaudi 2 hızlandırıcıları ile sofistike yeni AI modelleri geliştirmenin hem maliyetini hem de süresini önemli ölçüde azaltacağını söylüyor.
Habana COO’su Eltan Medina’ya göre, fiyat/performans oranı müşteriler için kilit bir faktördür ve bu nedenle ikinci nesil hızlandırıcıların geliştirilmesi sırasında bir öncelik haline getirilmiştir.
Intel Visions’ta sunulan karşılaştırmalar, Gaudi 2 işlemcilerinin Nvidia’nın A100 GPU’suna kıyasla popüler NLP ve görüntü iş yükleri (BERT ve Restnet-50) genelinde yaklaşık 2 kat daha fazla eğitim verimi sağladığını gösteriyor.
Aynı zamanda, yeni Gaudi yongalarının yine A100 GPU’lara kıyasla her iki iş yükü türünde de yaklaşık %40 maliyet tasarrufu sağladığı söyleniyor.
Medina, “Intel, derin öğrenmeye adanmış sunucular için en uygun çözüm olan Habana hızlandırıcılarıyla yapay zekayı ve veri merkezi müşterileri için değeri geliştiriyor” dedi. “Bu kategorinin inanılmaz derecede önemli olacağına inanıyoruz.”
Gaudi 2 işlemciler hemen müşterilerin kullanımına sunulmuştur ve muhtemelen bu işlemcileri desteklemesi de muhtemeldir. bulut AWS’deki örnekler satırın daha aşağısında olduğu gibi önceki nesil ile.