AMD, Canavar 48GB RDNA 3 GPU’larının Team Green’in önceki nesil RTX 4090’dan daha iyi performans gösterebileceğini iddia eden yeni Deepseek kriterleri ile Nvidia’ya geri dönüyor.
David McAfee, AMD Başkan Yardımcısı ve Ryzen CPUS ve Radeon Graphics Genel Müdürü X’de yayınlandı Radeon Pro W7900 ve Pro W7800 48GB kartların Deepseek R1’de RTX 4090’dan 7.3x’e kadar daha iyi performans gösterebileceği.
McAfee, LM Studio 0.3.12 ve LLAMA.CPP Çalışma Zamanı 1.18 kullanarak Deepseek R1’in birkaç yinelemesinde kıyaslanan üç GPU’nun bir grafiğini paylaştı. Deepseek R1 yinelemeleri, qwen 32b 8-bit, damıtma lama 70b 4-bit, qwen 32b 8-bit damıtma ve distill lama 70b 4-bit oluşur. Eski ikisi, konuşma istemleri (20 jeton ile) ve ikinci özetleme istemleri (3017 jeton ile) üretecek şekilde yapılandırıldı.
Tıklamak Daha Fazla Gör Kıyaslama sonuçlarını görmek için:
Tek bir @AMD Radeon Pro W7800 48GB veya W7900 48GB, en büyük Deepseek R1 damıtma (veya 32B için daha yüksek hassasiyet) bile harika bir performansla çalışacak kadar VRAM’a sahiptir. pic.twitter.com/4unto6xayg13 Mart 2025
Deepseek R1 Distill Qwen 32B 8-bit, RTX 4090’ın saniyede 2.7 jeton ürettiği iddia edildi, Pro W7800 48GB 19.1 üretti ve Pro W7900 48GB saniyede 19.8 jeton üretti. Distill Lama 70b 4-bit, RTX 4090 saniyede 2.3 jeton, Pro W7800 48GB 12.8 ve Pro W7900 48GB 12.7 jetonlar üretti.
Distill Qwen 32B 8-bit, RTX 4090 saniyede 2.5 jeton, Pro W7800 48GB 15.7 ve Pro W7900 48GB 16.2 jeton üretti. R1 Distill Llama 70b 4-bit, RTX 4090 saniyede iki jeton, Pro W7800 48GB 10.1 ve Pro W7900 48GB 10.4 jetonlar üretti.
AMD’nin kıyaslamaları, Radeon Pro W7800 veya Pro W7900 48GB GPU’ların, damıtma laması 70b 4-bit, 6.5x daha hızlı 7,3x’e kadar daha hızlı olduğunu iddia ediyor.
David McAfee, WPRO W7800 ve W7900’ün 48GB trimlerinin en büyük Deepseek R1 modellerini çalıştırmak için yeterli VRAM’a sahip olduğunu iddia ediyor. VRAM, büyük dil modellerinin işlenmesinin en kritik yönlerinden biridir; LLM’ler için parametreler doğrudan VRAM’da saklanır ve model boyutlarıyla doğru orantılıdır. Böylece, bir LLM ne kadar büyük olursa, daha fazla VRAM’a ihtiyacınız vardır. Ancak ekstra VRAM kapasitesi ile çok yüksek fiyatlar geliyor.
W7900 48GB, RTX 5090’ın 2.000 $ ‘lık MSRP’si üzerinde 3.500 $ – 1.500 $ ve RTX 4090’ın 1.500 $ MSRP’si üzerinde 2.000 $’ a mal oldu (ancak bu fiyata neredeyse hiç 4090 satıldı). Ancak flip tarafında, 48GB RDNA 3 GPU, bugün satın alabileceğiniz en yakın mevcut nesil 48GB NVIDIA GPU’nun fiyatının yarısından az.
AMD’nin pazarlaması harika görünüyor, ancak bunu daha önce gördük. AMD daha önce RX 7900 XTX’in RTX 4090’dan (çoğunlukla) Deepseek R1 ölçütlerinde daha iyi performans gösteren ölçütlerini paylaşmıştı. Bununla birlikte, NVIDIA, RTX 4090’ın (ve RTX 5090) kriterlerini sergileyerek yanıt verdi ve aynı Deepseek R1 konfigürasyonlarıyla amiral gemisi RDNA 3 GPU’yu büyük ölçüde daha iyi performans gösterdi.
AMD ayrıca NVIDIA’nın en yeni amiral gemisi RTX 5090’ı RDNA 3 tabanlı 48GB iş istasyonu odaklı grafik kartlarıyla karşılaştıran herhangi bir kriter paylaşmayı ihmal etti. NVIDIA’nın AMD ile mücadele etmek için başka bir ölçütle takip edip etmeyeceğini görmek ilginç olacak, özellikle AMD 48GB kartlarında 32GB GDDR7 ile RTX 5090’dan daha fazla VRAM’a sahip.
