NVIDIA’nın RTX ile Sohbet lansmanının ardından AMD, artık kullanıcılara Ryzen AI CPU’lar ve Radeon 7000 GPU’lar üzerinde çalışabilen, yerelleştirilmiş ve GPT tabanlı LLM destekli AI sohbet robotunu sunuyor.
AMD, Ryzen AI CPU’lar ve Radeon 7000 GPU’larda Çalışabilen Kendi Yerelleştirilmiş LLM Destekli Chatbotunu Tanıtırken RTX ile NVIDIA Chat’in Bir Rakibi Var
Geçen ay NVIDIA, RTX 40 ve RTX 30 GPU’larında kullanılabilen ve cihazınızdan kendisine sağladığınız verilere dayanarak daha hızlı GenAI sonuçları sunan TensorRT-LLM özellik seti ile hızlandırılan “RTX ile Sohbet” AI Chatbot’unu piyasaya sürdü. PC veya başka bir deyişle yerelleştirilmiş bir veri kümesi. Artık AMD, XDNA NPU’lara sahip Ryzen 7000 ve Ryzen 8000 APU’ları ve AI hızlandırıcı çekirdeklere sahip en yeni Radeon 7000 GPU’ları içeren Ryzen AI PC’ler gibi çok çeşitli donanımlarda çalışabilen kendi LLM tabanlı GPT sohbet robotunu sunuyor. .
AMD’nin sahip olduğu bir blog yayınladı GPT tabanlı LLM’ler (Büyük Dil Modelleri) tarafından desteklenen kendi yerelleştirilmiş sohbet robotunuzu çalıştırmak için donanımını nasıl kullanacağınıza dair bir kurulum kılavuzu sağlar. AMD Ryzen AI CPU’ları için şunları alabilirsiniz: Windows için standart LM Studio kopyası Radeon RX 7000 GPU’lar ise ROCm Teknik Önizlemesi. Kılavuzun tamamı aşağıda paylaşılmaktadır:
1. LM Studio’nun doğru sürümünü indirin:
2. Dosyayı çalıştırın.
3. Arama sekmesinde, neyi çalıştırmak istediğinize bağlı olarak aşağıdaki arama terimini kopyalayıp yapıştırın:
sahip olmak. Mistral 7b’yi çalıştırmak istiyorsanız şunu arayın: “TheBloke/OpenHermes-2.5-Mistral-7B-GGUF”ve soldaki sonuçlardan seçin. Genellikle ilk sonuç olacaktır. Bu örnekte Mistral ile gidiyoruz.
B. LLAMA v2 7b’yi çalıştırmak istiyorsanız şunu arayın: “TheBloke/Llama-2-7B-Chat-GGUF”ve soldaki sonuçlardan seçin. Genellikle ilk sonuç olacaktır.
vs. Burada diğer modelleri de deneyebilirsiniz.
4. Sağdaki panelde, simgesini görene kadar aşağı kaydırın. 4. Çeyrek KM modeli dosyası. İndir’i tıklayın.
sahip olmak. Öneririz 4. Çeyrek KM Ryzen AI’daki çoğu model için. İndirmenin bitmesini bekleyin.
5. Sohbet sekmesine gidin. Üst ortadaki merkezi açılır menüden modeli seçin ve yüklemenin bitmesini bekleyin.
6. Eğer bir AMDRyzen Yapay Zeka Bilgisayarı sohbete başlayabilirsiniz!
sahip olmak. Eğer bir AMDRadeon grafik kartıLütfen:
Ben. Sağ taraftaki paneldeki “GPU Boşaltma”yı kontrol edin.
ii. Kaydırıcıyı tamamen “Maks” konumuna getirin.
iii. Algılanan GPU türü olarak AMD ROCm’nin gösterildiğinden emin olun.
iv. Sohbeti başlat!
Yapay zeka tarafından desteklenen yerelleştirilmiş bir sohbet robotuna sahip olmak, doğru şekilde kurulduğunda hayatı ve çalışmayı nispeten kolaylaştırabilir. Çalışmanızı yaparken verimli olabilir ve sorgularınıza ve LLM’nin hedeflendiği veri yoluna göre doğru sonuçlar alabilirsiniz. NVIDIA ve AMD, tüketici düzeyindeki donanımlar için yapay zeka destekli özelliklerin hızını artırıyor ve bu sadece bir başlangıç; yapay zekalı bilgisayar segmenti yeni boyutlara ulaştıkça ileride daha fazla yenilik bekliyoruz.
