AMD’nin Ryzen AI CPU’ları, Yüksek Lisans ve GenAI iş yüklerini gösteren yeni AI kıyaslamalarında Intel’in Core Ultra çiplerini gölgede bırakıyor.
AMD, Çok Daha Düşük Güçte Çalışırken Intel’in Core Ultra Yongalarından Daha İyi Performans Gösteren Ryzen AI CPU’larıyla Yeni Yapay Zeka (LLM) Karşılaştırmalarını Paylaşıyor
AMD, geçtiğimiz yıl tanıttığı Phoenix kod adlı birinci nesil Ryzen AI CPU’ları ile AI PC alanına ilk giren oldu. Şirket o zamandan beri, AI TOPS’ta %60 artış sağlayan gelişmiş “XDNA” NPU’lar sunan, Hawk Point olarak bilinen yenilenmiş Ryzen AI serisini piyasaya sürdü. AMD’nin, şirket tarafından yayınlanan yeni kıyaslamalarda da görüldüğü gibi, istemci tarafı ve yerelleştirilmiş yapay zeka iş yükleri için yazılım optimizasyonları konusunda çok fazla çalışma yaptığı görülüyor.
Yeni testlerde AMD, LLama 2, Mistral AI_, code lama ve RAG gibi çeşitli modellerle mümkün olan LLM’leri CPU’larınızda yerel olarak çalıştırmayı vurguluyor. Bilgisayarınızda çalışan yerelleştirilmiş bir AI modeline sahip olmak, çevrimiçi bulut platformlarındaki modellerden daha fazla gizliliğe sahip olduğunuz ve çevrimiçi bağlantı gerektirmeden abonelik ücretlerinden tasarruf ettiğiniz anlamına gelir. Şirket, RTX sohbet robotlu NVIDIA Sohbet’e rakip olan kendi yerel AI sohbet botunuzu nasıl kuracağınıza dair yeni kılavuzuyla bu alana daha fazla baskı yapıyor.
Performans testi için AMD, 15W’taki Ryzen 7 7840U APU’yu kullanıyor ve bunu 28W’daki Intel Core Ultra 7 155H ile karşılaştırıyor. Her iki yonga da 16 GB LPDDR5-6400 bellek ve en yeni sürücü paketleriyle çalışıyor.
İlk olarak, Mistral Instruct 7B LLM’ye sahibiz; burada AMD Ryzen 7 7840U CPU, yapay zeka işlemlerini Intel’in teklifine kıyasla yalnızca %61 oranında tamamlıyor; Llama 2 7B sohbeti ise görevi tamamlayan Ryzen yapay zeka çipi sayesinde daha da hızlı. zamanın %54’ünde.
İşleri basitleştirmek için, AMD Ryzen 7 7840U (15W) CPU, LLama v2 Chat 7B’de (4 KM) %14’e kadar daha hızlı performans ve Mistral Instruct 7b’de (4 KM) %17’ye kadar daha hızlı performans sunabilir. İlk token hızlarına ulaşma süresi, LLama v2 Chat’te sırasıyla %79, Mistral Instruct 7B LLM’de ise %41 daha hızlıdır.
Burada dikkat edilmesi gereken iki şey var; AMD Ryzen AI CPU, yalnızca yüksek voltajlı Intel Core Ultra CPU’dan daha hızlı değil, aynı zamanda 11 TOP SKU’ya sahip Intel’in Core Ultra çipine kıyasla 10 TOP olarak derecelendirilen biraz daha yavaş bir NPU’ya sahip. Bu, 28W SKU’ları veya 16 TOP’a kadar Yapay Zeka Hesaplama özelliğine sahip Hawk Point yongalarını karşılaştırmak bile değil. AMD ayrıca, Intel Core Ultra 155H yongalarının 999 $ (SEP) fiyatına kıyasla yaklaşık 899 $ (SEP) seviyesinden başlayan daha düşük bir fiyatla sunulan AI PC platformlarının maliyet avantajını da vurguluyor.
AMD Ryzen AI PC platformu, bir süredir piyasada olma avantajına sahip ve bu da kırmızı ekibi mevcut ve yeni nesil CPU’ları için hızlı AI optimizasyonları yapmaya teşvik etti. Bu yapay zeka iş yüklerinin, bu yılın sonlarında piyasaya sürülmesi beklenen Zen 5 destekli Strix Point ailesine hazırlık amacıyla ilerleyen süreçte daha da ayarlanması bekleniyor. Intel’in Core Ultra platformu da birkaç aydır piyasada ve şirketin bu alan için cesur bir yapay zeka stratejisi var.