Bugün yapay zekayla ilgili iki büyük soru ortaya çıkıyor: nasıl ve ne için? Yani altyapı ve kullanım.
Kullanım sorunu açıkça son derece geniştir ve her kuruluşa bağlı olacaktır. Altyapı tarafında ise birçok firmaya yakışabilecek bir referans çerçevesi oluşturmaya başlayabiliriz. Ve bu mutlaka sizin düşündüğünüz gibi değildir.
Yapay zeka altyapısı denince akla hemen üç harf geliyor: GPU. Grafik kartları gerçekten bu alanda önemli bileşenlerdir ve belirli ihtiyaçları karşılar. Ancak dünya çapındaki veri merkezlerinde olup bitenlere daha yakından baktığımızda başka bir trend ortaya çıkıyor: Veri merkezlerindeki yapay zeka çıkarım süreçlerinin %65’i Intel Xeon işlemcilere dayanıyor.1
CPU’ya gömülü yapay zeka motorları
CPU’nun bu önemini anlamak için Intel Xeon 5 işlemcilerin içeriğine biraz daha yakından bakmalısınız.enesil.
Dijital teknoloji günümüzde şirketlerdeki çok sayıda sürecin merkezinde yer almaktadır ve birçok faaliyet, temeldeki uygulamaların verimli bir şekilde yürütülmesine dayanmaktadır. Bu nedenle BT altyapısındaki iş yükleri son derece çeşitlidir ve Intel Xeon işlemciler bu heterojenliği destekleyecek şekilde tasarlanmıştır. Bunu yapmak için Intel, “Hızlandırıcı Motorları” Xeon Ölçeklenebilir işlemcilere entegre etti.
Bu hızlandırma motorları, kurumsal dünyada en hızlı büyüyen iş yüklerinde performans ve faydalar sağlamak üzere özel olarak tasarlanmış bileşenler ve özelliklerdir; ve yapay zeka da açıkça bunun bir parçası. Bu nedenle, hızlandırıcılar arasında, şirketlerin mevcut Xeon mimarilerine güvenerek kendi işlerinde yapay zekanın potansiyelini keşfetmelerine olanak tanıyan “Yapay Zeka Motorları”nı buluyoruz.
Somut olarak, bu AI hızlandırıcılardan iki tane var: Intel Gelişmiş Matris Uzantıları ve Intel Gelişmiş Vektör Uzantıları 512 veya daha basitçe AMX ve AVX-512.
Derin Öğrenme için Intel AMX
İlkiyle başlayalım. AMX, doğrudan Intel Xeon Ölçeklenebilir işlemcilerde bulunan ve Derin Öğrenme eğitim ve çıkarım süreçlerini destekleyen ve hızlandıran özel bir donanım bloğudur; bu, yapay zeka ile ilgili işlemlerin harici bir hızlandırıcıya aktarılmasını önlemeyi mümkün kılar ve böylece yapay zeka ile bağlantılı ek maliyetleri ve karmaşıklığı ortadan kaldırır. farklı durumlarda bu harici hızlandırıcı.
Öte yandan Intel Xeon Ölçeklenebilir 5 işlemcilere AMX BF16’lı nesil, Intel Xeon 3 CPU’lara kıyasla gerçek zamanlı nesne algılama (SSD-ResNet34) için 14 kata kadar daha fazla çıkarım performansı sunare nesil 2ve Xeon 3 ile karşılaştırıldığında doğal dil işlemede (BERT-büyük) 9,9 kata kadar daha iyi çıkarım performansıe nesil. 3
Bu nedenle AMX, öneri sistemlerinde veya doğal dil işleme (NLP), üretken yapay zeka ve hatta bilgisayar görüşü uygulamalarında önemli bir gelişme sağlayan kullanım sorusuna da bir yanıtın başlangıcını veriyor. Genel olarak AMX ile Intel Xeon 5 işlemcilere nesil, 20 milyardan az parametre gerektiren büyük dil modelleri (LLM) için uygundur ve bu da çok çeşitli ihtiyaçların karşılanmasını mümkün kılar.
Makine Öğrenimi için Intel AVX-512
AVX-512 ise yoğun vektör işlemeye adanmış bir talimat setidir. Neden 512? Çünkü her saat döngüsünde işlemcinin kullanabileceği bit sayısıdır. Bir uygulama Intel AVX-512 kullandığında, yalnızca kayıt sayısını artırarak CPU’nun temel 64 bit hızından sekiz kata kadar daha hızlı çalışabilir. Sanki 96’ya kadar saymak için 1, 2, 3 vb. veya doğrudan 8, 16, 24 vb. listeleme arasında seçim yapma şansınız vardı.
Bu yetenek, şirketlerin ek harici hızlandırıcılar kullanmaya gerek kalmadan yapay zeka gibi ağır işlemleri desteklemesine olanak tanır. Performans kazanımlarına ek olarak bu, yapay zeka kullanım durumları için daha hızlı yatırım getirisi anlamına da gelir. Artık nasıl sorusuna bir cevabınız var!
1 Aralık 2022 itibarıyla yapay zeka çıkarımı iş yüklerini çalıştıran küresel kurulu veri merkezi sunucularının Intel pazar modellemesine dayanmaktadır.
2 Görmek [A21] intel.com/processorclaims adresinde: Intel Xeon Ölçeklenebilir 5 işlemcilere nesil.
3 Görmek [A19] intel.com/processorclaims adresinde: Intel Xeon Ölçeklenebilir 5 işlemcilere nesil.
