Arc A-Serisi GPU’lar artık Intel Extension for PyTorch (IPEX) kapsamında destekleniyor ve derin öğrenme ve LLM’lerde daha hızlı yapay zeka özellikleri sunuyor.
PyTorch için Intel Uzantısı Artık Arc A Serisi GPU’larda Yerleşik XMX Yapay Zeka Donanımının Tüm Avantajlarından Yararlanıyor
Intel’in Alchemist mimarisini temel alan Arc A-Serisi GPU’ları, her geçen gün farkına varılan birçok donanım üstü potansiyele sahiptir. Yazılım bölümü, bu GPU’ların oyun performansını optimize etme konusunda harika bir iş çıkardı ve şimdi odak noktası, bu yongalarda bulunan XMX birimlerinin tam olarak kullanılacağı, gelişen yapay zeka pazarına odaklanıyor.
Bir güncellemede Intel, IPEX’in (PyTorch için Intel Uzantısı) artık Windows, Linux ve WSL2 platformlarında Arc A Serisi GPU’lar için destek sunduğunu doğruladı. Bu yeni eklenen destekle, Intel’in A Serisi GPU’ları yalnızca Yüksek Lisans gibi derin öğrenme modellerinin hızlanmasını artırmakla kalmayacak, aynı zamanda Intel donanımı için yeni optimizasyonlar getirerek daha hızlı performans sağlayacak ve kullanıcılara Alchemist GPU serisinde PyTorch modellerini çalıştırma olanağı sunacak. .
Intel Arc A Serisi GPU’ya sahip olan ve PyTorch’taki XMX AI motorunun avantajlarından yararlanmak isteyenler için, şirket, Llama 2 arayüzünün Windows ve WSL2’de nasıl çalıştırılacağına dair tam bir blog yayınladı burada. Intel’in yapay zeka yazılım ekibine göre:
- GPU’lar büyük veri paralelliği ve yüksek bellek bant genişliği konusunda üstün olduğundan, GPU’lar büyük dil modeli (LLM) iş yükleri için çok uygundur. Arc A770 Graphics dahil Arc A-Serisi Grafikler, 512 adede kadar Xe Matris Uzantısı (XMX) Motoruna sahip yüksek performanslı grafiklerdir ve LLM’ler de dahil olmak üzere derin öğrenme modellerinin hızlandırılmış yürütülmesi için yetenek sağlar.
- IPEX, Intel ayrık GPU’larındaki XMX Motorlarından yararlanarak PyTorch’u Intel donanımı için en son performans optimizasyonlarıyla genişletir.
- PyTorch için IPEX Uzantısı, PyTorch XPU cihazının PyTorch modelini ve giriş verilerini GPU hızlandırmalı Intel ayrık GPU’da yürütmek üzere cihaza kolayca taşımasına olanak tanır.
- IPEX’in en son sürümü (v2.1.10+xpu), WSL2, yerel Windows ve yerel Linux üzerinde Arc A-Serisi Grafikleri resmi olarak desteklemektedir.
- Llama 2 7B ve Llama 2-Chat 7B çıkarımının Windows’ta Arc A770 Graphics ve Ipex aracılığıyla WSL2 üzerinde çalıştırıldığı gösterilmiştir.
- Llama 2’yi veya diğer PyTorch modellerini Arc A-Serisi GPU’larda çalıştırmak için birkaç ek kod satırı eklemeniz yeterlidir. içe aktarmak intel_extension_for_pytorch ve .to(“xpu”) modeli ve verileri Arc A-Serisi GPU’da yürütülecek cihaza taşımak için.
Yakın zamanda Intel’in eski GPU patronu Raja Koduri’den alıntı yapan ve istemci ve oyun bilgisayarı GPU’larının AI başarısını sağlamada nasıl önemli bir rol oynadığından bahseden bir makale yayınladık. Intel’in Arc A Serisi GPU’lara yönelik desteğini genişletmesi, NVIDIA ve AMD’nin tüketici odaklı donanımlarda hızlı yapay zeka desteği sunarak liderlik yaptığı pazar segmenti için harika bir şey.