AMD Deepseek’in R1 AI modelinin AI-A-Mesela Ryzen AI ve Radeon ürünlerinde nasıl çalıştırılacağı hakkında talimatlar verdi, bu da kullanıcıların yeni düşünce zincir modelini PC’lerinde yerel olarak çalıştırmasını kolaylaştırdı. R1 kullanan birkaç LLM, RX 7000 Serisi masaüstü GPU’larla uyumludur ve XDNA NPU’lu Ryzen CPU’ları seçer. Bununla birlikte, isteğe bağlı sürücü adrenalin 25.1.1’in çalışmasını gerektirir.
Kılavuz, AMD kullanıcılarının Deepseek R1’in yerel (desteklenen) makinelerinde çalışmasını sağlamak için gereken her şeye sahiptir. LM Studio, AMD kullanıcılarının R1’i yüklemek için kullanacağı yöntemi olan Ryzen AI için özel bir şekilde hazırlanmış bir yükleyiciye sahiptir. AMD, desteklenen maksimum LLM parametrelerinin bir listesi de dahil olmak üzere, uygulamanın donanımı için nasıl ayarlanması gerektiğini gösterir.
Deepseek R1’in son zamanlarda tüketici tabanlı donanım üzerinde çalışacak kadar küçük olan “son derece yetenekli” daha küçük modellere damıtıldığı iddia ediliyor. Deepseek-V3 modeli başlangıçta bağlam için 2.048 NVIDIA H800 GPU kümesi üzerinde eğitildi.
Desteklenen maksimum LLM parametreleri bellek kapasitesine dayanır. RX 7600 XT, 7700 XT, 7800 XT, 7900 GRE ve 7900 XT, “Deepseek-R1-Distill-Qwen-14b” e kadar desteklemektedir. Amiral Gemisi RX 7900 XTX, “Deepseek-R1-Distill-Qwen-32b” i destekliyor. 8GB VRAM ile RX 7600, “Deepseek-R1-Distill-Llama-8b” i destekliyor.
Benzer şekilde, Ryzen 8040 ve 7040 serisi mobil APU’lar 32GB RAM ile donatılmıştır ve 24GB ve 32GB RAM ile Ryzen Ai HX 370 ve 365, “Deepseek-R1-Distill-Llam-14b” i destekleyebilir. Ryzen AI Max+ 395, “Deepseek-R1-Distill-Llama-70b” i destekleyebilir, ancak sadece 128GB ve 64GB bellek kapasitelerinde. 32GB, “Deepseek-R1-Distill-Qwen-32b” i destekliyor.
Deepseek’in yeni AI modeli, önde gelen modellerden 11 kat daha düşük bilgi işlem maliyeti ile dünyayı fırtınaya aldı. İki gün önce, NVIDIA’nın rekor kıran 589 milyar dolarlık piyasa değerinden sadece sorumluydu. Deepseek R1 modeli, performans artışının çoğu için NVIDIA’nın montaj benzeri paralel iplik yürütme (PTX) programlamasına dayanarak 11x verimlilik artışını sağlamak için aşırı optimizasyon seviyelerine dayanmaktadır.
Nvidia ve AMD GPU’lar R1 çalıştırabilen tek GPU’lar değildir; Huawei, Deepseek desteğini ASCEND AI GPU’larına uyguladı ve ev sahibi Çin donanımında performans gösteren AI uygulamasını sağladı.
