resim 1 ile ilgili 2
Computex 2023 sırasında şirketin Kurumsal Başkan Yardımcısı ve İstemci Kanalı İşletmesi Genel Müdürü David McAfee ile görüşmek üzere AMD’nin Tayvan, Taipei’deki ofisini ziyaret ettim. Sohbetimiz, ayrı ayrı yazacağım bir dizi konuda çok çeşitliydi, ancak AMD’nin Ryzen XDNA AI motorunu bir dizüstü bilgisayar demosunda iş başında gözlemleme şansım oldu. McAfee ayrıca, AMD’nin işletim sistemini ve yazılım ekosistemini PC’de yerel olarak çalışacak gelişen yapay zeka kullanım durumlarına hazırlamak için attığı adımlardan da bahsetti.
AMD kod adlı esinlenilmiş koridor haritasını takip ettikten sonra, AMD’nin en son teknolojisini iş başında görmek için demo odasına giden yolu buldum.
AMD’nin demo dizüstü bilgisayarı, gücünü Radeon 780M grafiklerle eşleştirilmiş AMD’nin 4nm ‘Phoenix’ Ryzen 9 7940HS işlemcisinden alan bir Asus Strix Scar 17 idi. Bu 35-45W yongalar, Zen 4 mimarisi ve RDNA 3 grafikleriyle birlikte gelir. AMD ayrıca aynı demoyu çalıştıran bir Asus ROG Zephyrus G14’e sahipti.
CPU çekirdekleriyle kalıp üzerinde bulunan özel bir hızlandırıcı olan XDNA AI motoru, ilgilendiğimiz nesnedir. XDNA AI motorunun genel amacı, ses ve video işleme gibi daha düşük yoğunluklu çıkarım iş yüklerini bir CPU veya GPU’da elde edebileceğinizden daha düşük güçte yürütürken çevrimiçi hizmetlerden daha hızlı yanıt süreleri sağlayarak performansı artırmak ve pil tasarrufu sağlamaktır. güç.
Bu motor, 4 adede kadar eşzamanlı AI akışını işleyebilir, ancak çeşitli miktarlarda akışları işlemek için hızla yeniden yapılandırılabilir. AMD, Xilinx IP’sinin nesli olan bu motorun, Apple’ın M2 işlemcilerinde bulunan nöral motordan daha hızlı olduğunu iddia ediyor. Motor doğrudan yongaların bellek alt sistemine bağlıdır, bu nedenle CPU ve tümleşik GPU ile uyumlu bir bellek havuzunu paylaşır. AMD’nin lansmanından önceki slaytları yukarıdaki albüme dahil ettim — motorun nasıl çalıştığına dair genel bir bakış sunuyorlar.
İlk olarak, AI motorunun kendisini kullanım ölçümleriyle görünür çekirdekler olarak sıralayıp sıralamayacağını görmek için görev yöneticisini açtım, ancak XDNA AI motoru görünür bir cihaz olarak görünmüyor. Yukarıdaki albümde görebileceğiniz gibi, cihaz yöneticisinde ‘AMD IPU Cihazı’ olarak listelenen AI motorunu buldum. Ancak testler sırasında çekirdeklerden gelen yükü veya diğer telemetriyi gözlemleyemedik.
resim 1 ile ilgili 1
Burada XDNA yapay zeka motorunun bir yüz tanıma iş yükünde çatırdayarak çalıştığını görebiliriz. Ekranın sağ tarafında, iş yükünün her adımı için gecikmenin bir ölçümünü görebiliriz ve çubuklar etkileyici bir şekilde düşükken ve yapay zeka motoru çıkarım iş yükünün üstesinden gelirken iş yükü bir dizi görüntüden hızla geçerken, biz bu rakamların diğer çözüm türleriyle nasıl karşılaştırıldığına dair herhangi bir bağlama sahip değilsiniz.
AMD’nin demosunda yerleşik AI motorunu çevrimiçi Azure ONNX EP hizmetine karşı test etmek için bir düğme vardı, ancak demo ekibi bize yazılımla ilgili sorunlarla karşılaştıklarını ve bu nedenle çalışmadığını söyledi. Doğal olarak, yerleşik Ryzen yapay zeka motorunun Azure hizmetinden daha düşük gecikme süresine sahip olmasını beklerdik ve AMD’nin mantıksal olarak burada göstermeye çalıştığı da buydu. Ne yazık ki, kıyaslama sonuçları için önemli bir karşılaştırma noktası olmadan kaldık.
Bununla birlikte, kıyaslama yapay zekanın hayatta olduğunu ve AMD’nin Ryzen 7040 işlemcilerinde nefes aldığını gösteriyor ve şirket ayrıca yapay zeka motorunu kullanabilecek uygulama sayısını artırma yolunda ilerliyor.
AMD, geçen hafta Microsoft’un Build konferansında bir yeni geliştirici araçları seti XDNA AI motoru için yazılım desteği eklemek için gereken işi kolaylaştırmak için daha sonra ONNX çalışma zamanında yukarı akışa alınan açık kaynaklı Vitis AI Yürütme Sağlayıcısından (EP) yararlanan. McAfee, Vitis AI EP’nin, geliştiricilerin temel modeli değiştirmek zorunda kalmadan modelleri çalıştırmasına izin veren bir tür çıplak metal çeviri katmanı işlevi gördüğünü açıkladı. Bu, entegrasyonu basitleştirir.
AMD, yapay zeka motoru için henüz performans ölçümleri sağlamıyor, ancak McAfee, daha yüksek güç verimliliği ve daha düşük gecikme süresinin diğer avantajlarının hepsi birden fazla olduğu için, yerleşik bir yapay zeka motorunun avantajlarını TOPS gibi tek bir performans ölçümüyle ölçmenin zor olduğunu belirtti. bir AI motoruna sahip olmanın çok yönlü avantajlarının bir kısmı. Ancak AMD gelecekte rakamları paylaşacak.
McAfee, şirketin XDNA yapay zeka yol haritasını uygulamaya devam etme ve sonunda motoru gelecekte diğer Ryzen işlemcilere ekleme planlarını yineledi. Bununla birlikte, PC’de yapay zeka için yazılım ekosistemi henüz ilk günlerinde ve AMD, gerçek dünya avantajlarına karşı ödünleşimleri keşfetmeye devam edecek.
Dahili bir AI motoruna sahip olmanın avantajının çoğu, dizüstü bilgisayarlar gibi güç kısıtlaması olan cihazlarda bir zorunluluk olan güç verimliliğinde bulunur, ancak bu, çıkarım iş yükleri için daha güçlü bir özel GPU veya CPU kullanabilen kısıtlamasız bir masaüstü bilgisayarda o kadar anlamlı olmayabilir. , ancak pil ömrü endişeleri olmadan. McAfee’ye, bu faktörlerin AMD’nin XDNA’yı masaüstü PC’lere getirip getirmeme kararını etkileyip etkilemediğini sordum ve o, özelliğin, değerli kalıp alanını ayırmanın mantıklı olacağı kadar değer sağlayıp sağlamadığına bağlı olacağını söyledi. motor. AMD, özellikle Ryzen 7040 piyasaya girerken, etkiyi hâlâ değerlendiriyor.
Şimdilik AMD, gelecek planlarından herhangi birini onaylamıyor, ancak McAfee, AMD’nin yapay zeka motorunun gelecekteki yol haritalarının bir parçası olmasına kararlı olmasına rağmen, bunun tüm ürünlerde geçerli olmayabileceğini söyledi. Bu notta, AMD’nin yonga stratejisinden yararlanan masaüstü PC’ler gibi farklı yonga türleri için başka seçeneklerin olabileceğini söyledi. Eklenti kartları gibi diğer seçenekler de olası çözümlerdir.
Kesin olan bir şey var: Ölçeklenebilir entegre XDNA yapay zeka motorunun gelecekte AMD’nin birçok ürününde yer aldığını görmeye devam edeceğiz. Umarım bir dahaki sefere daha iyi bir demo görürüz.