AMD iddiaları Ryzen AI 300 (kod adı Strix Point) tekliflerinin, tüketici LLM iş yüklerinde Intel’in en yeni Core Ultra 200V (kod adı Lunar Lake) CPU’larını kolaylıkla yenebileceğini. Team Red, her iki serideki işlemcilerin performansını karşılaştıran ve AMD’nin %27’den fazla önde olduğu çeşitli grafikler sergiledi.
Yapay zeka patlamasından bu yana teknoloji devleri, hem donanım hem de yazılım cephesinde, yapay zeka alanında birbirlerini geride bırakmak için silahlanma yarışına girdiler. Bunların çoğu tamamen alıntı-alıntısız “AI heyecanı” için olsa da, ana akım müşteriler için faydalar gerçekleşmeye başlıyor. Microsoft, herhangi bir sistemin “Yardımcı Pilot+ Bilgisayar” olarak değerlendirilmesi için en az 40 TOPS talep etmektedir. Hemen hemen her CPU üreticisi artık bir Sinir İşleme Birimi (NPU) için değerli silikon alanı ayırıyor.
Bu bağlamda AMD, Strix Point APU’larının, LLM’leri yerel olarak çalıştırırken Intel’in Lunar Lake’inden daha iyi performans gösterdiğini söylüyor. LM Studio’nun tipik tüketici Yüksek Lisansı, llama.cpp çerçevesine dayalı olarak çalıştırılır. Ryzen AI 9 HX 375, CPU bölümünde Core Ultra 7 258V’ye %27’ye varan farkla liderlik ediyor. Gecikme kriterleri Intel için tam bir kan banyosu; AMD’nin 3,5 kat daha düşük gecikme sağladığı bildiriliyor. Mistral Nemo 2407 12b Talimatı modeli. Entegre grafik çözümüne geçişte Ryzen AI 9 HX 375’in Radeon 890M iGPU’su Intel’in Arc 140V’sinden en iyi ihtimalle %23 daha hızlıdır.
Resim 1 ile ilgili 3
İlginç bir şekilde, HX 375 en hızlı Strix Point APU olsa da Core Ultra 7 258V öyle değil. Amiral gemisi Core Ultra 9 288V, tam 30W TDP sunuyor ve bu da Strix Point ile nispeten daha iyi uyum sağlıyor çünkü Strix Point 54W kadar yüksek bir değere kadar yapılandırılabiliyor.
Bunun yanı sıra, AMD daha sonra her iki dizüstü bilgisayarı Intel’in kendi ve birinci taraf AI Playground’da test etti; burada AMD’nin %13,1 oranında önde olduğunu görüyoruz. Mistral 7b Talimatı v0.3 modeli. Microsoft Phi 3.1 Mini Instruct testi, liderliğin %8,7’ye düşmesi nedeniyle biraz daha az heyecan verici.
Sonuç olarak, yerel bir yüksek lisans derecesi almak için dizüstü bilgisayarınızı her gün çalıştırmıyorsunuz ama geleceğin neler getireceğini kim bilebilir? Kingpin Core Ultra 9 288V’yi çalışırken görmek daha heyecan verici olurdu, ancak çok farklı sonuçlar beklemeyin. AMD, şu anda birçok teknik engelin ardında kalan Yüksek Lisans’ları herkes için daha erişilebilir hale getirmek için aktif olarak çalıştığını söylüyor ve bu da LM Studio gibi projelerin önemini vurguluyor.