Nvidia ve Intel’in yakın zamanda yerel olarak çalıştırılan yapay zeka sohbet robotlarını duyurmasıyla birlikte AMD’nin de dışarıda kalmak istemediği görülüyor. kendi çözümünü yayınladı Ryzen ve Radeon işlemci sahipleri için. Kullanıcılar, beş veya altı adımda bulut yerine kendi yerel donanımlarında çalışan bir yapay zeka sohbet robotuyla etkileşime geçmeye başlayabilir; kodlama deneyimi gerektirmez.
AMD’nin kılavuzu, kullanıcıların Ryzen AI PC çipine veya RX 7000 serisi GPU’ya sahip olmasını gerektiriyor. Bugün Ryzen AI yalnızca Radeon 780M veya 760M entegre grafiklere sahip Phoenix ve Hawk Point tabanlı üst düzey Ryzen APU’larda mevcuttur. Bu, Ryzen 5 8600G desteklenirken Ryzen 5 8500G’nin çalışmayabileceğini gösteriyor… ancak uygulamanın kendisi bir gereksinim olarak yalnızca “AVX2 destekli CPU”yu listeliyor, bu da geniş bir yelpazede (belki de çok yavaş) çalışması gerektiği anlamına geliyor işlemci yelpazesi.
Kullanıcıların indirmesi ve yüklemesi gerekiyor LM StüdyosuRX 7000 serisi kullanıcıları için ROCm sürümüne sahip olan standart paketin Intel CPU’lar ve Nvidia GPU’larla da çalıştığını bir kez daha unutmayın. LM Studio’yu kurup başlattıktan sonra, sohbet için optimize edilmiş Llama 2 7B gibi istediğiniz LLM’yi aramanız yeterlidir. AMD, belirli bir niceleme düzeyine (4 bit) ve diğer özelliklere işaret eden “Q4 KM” etiketli modellerin kullanılmasını önerir. Ryzen CPU kullanıcıları bu noktada botla sohbet etmekte özgür olsa da (NPU’nun kullanılıp kullanılmadığı bile belli değil ama öyle olmadığını tahmin ediyoruz) RX 7000 serisi GPU kullanıcılarının sağ tarafı açması gerekecek panelini açın ve GPU boşaltmayı manuel olarak etkinleştirin ve boşaltma kaydırıcısını tamamen “maks.” konumuna sürükleyin.
AMD’nin öğreticisi, AI sohbet robotlarını AMD, Intel ve Nvidia’nın tüm tüketici donanımlarında çalıştırmak için kullanımı kolay en az bir resmi yöntemin olduğu anlamına gelir. Şaşırtıcı olmayan bir şekilde Nvidia, doğal olarak yalnızca Nvidia GPU’larda çalışan RTX ile Sohbet uygulamasıyla ilk oldu. RTX ile sohbet, belgeleri, videoları ve diğer dosyaları analiz edebildiği için tartışmasız çözümlerin en kapsamlısıdır. Ayrıca, bu Nvidia sohbet robotunun desteği 30 serisine kadar uzanıyor ve 20 serisi desteği de masada olabilir.
Bu arada Intel’in AI CPU/NPU ve GPU çözümleri daha çok gölgede kalıyor. Intel, yerel bir AI sohbet robotunu sergilemek için bir uygulama kullanmak yerine, Python’u kodlamak için nasıl kullanabileceğinizi gösterdi. Kullanıcıların yazması gereken kod çok uzun olmasa da, herhangi bir kodlamanın dahil edilmesi birçok potansiyel kullanıcı için engel oluşturacaktır. Ek olarak, komut satırında sohbet yanıtları görüntüleniyor ve bu da tam olarak “son teknoloji yapay zeka” diye bağırmıyor. Bunun yerine LM Studio’yu deneyebilirsiniz, ancak henüz Intel GPU veya NPU desteğine sahip gibi görünmese de yalnızca CPU’nuzu kullanır.
AMD’nin Nvidia gibi kendi AI sohbet robotu uygulaması olmasa da, en azından ROCm GPU donanım desteği olduğundan özellikler açısından Intel’den daha ileride görünüyor. AMD için bir sonraki adım muhtemelen RTX ile Sohbet’in kendi sürümünü oluşturmak veya en azından AMD donanımı için daha fazla özelliği etkinleştirmek üzere LM Studio geliştiricileriyle birlikte çalışmak olacaktır. Belki de Yapay Zeka işlevselliğinin Radeon Adrenalin sürücü paketine entegre edildiğini bile göreceğiz; AMD, sürücü düzeyinde yapay zeka optimizasyonları yapıyor ve sürücü paketi sıklıkla Akışkan Hareketli Çerçeveler gibi yeni özellikler alıyor.