Haber kaynağı StorageReview: NAS’ta AI sohbet robotu çalıştırma Nvidia’nın RTX A4000 grafik kartı tarafından desteklenmektedir ve ChatGPT yeteneklerini yerel bir sunucuya yerleştirmektedir. YouTube bilgisayar donanımı içerik oluşturucularının genellikle olağandışı ve saçma şeylere eğilimi vardır, ancak StorageReview benzersizliği ve kullanışlılığıyla eşleşen bir çözüm yaratmıştır.
Yukarıdaki gömülü YouTube videosunda görüldüğü gibi, StorageReview’dan Jordan bu görevi çok fazla titiz Kendin Yap işlemine gerek kalmadan başardı. Projenin temeli bir QNAP TS-h1290FX12 NVMe yuvası, AMD Epyc işlemci ve kutudan çıkan 256 GB RAM ile önceden oluşturulmuş bir NAS. Bu özel NAS’ın nedeni iki yönlüdür: Dahili bir GPU’nun eklenmesine izin verir ve sanal makineler (VM’ler) oluşturmak için QNAP hiper yönetici programı Sanallaştırma İstasyonunu destekler. Bu kabuğa, Nvidia’nın en güçlü tek yuvalı grafik kartı olan Ampere GPU olan Nvidia RTX A4000 ekleniyor.
Terabaytlarca veriyle dolu bir NAS ve kullanıma hazır bir RTX donanımıyla Jordan, grafik kartınızla desteklenen bir PC’de ChatGPT deneyimi kuran bir Nvidia ürünü olan “RTX ile Sohbet” adlı yeni programı kullanabilir. veriler için yerel dosyalar.
İçinde yapay zeka bulunan bir NAS’a sahip olmak pratik olmayabilir, ancak giderek yapay zekaya bağımlı hale gelen bir dünya için bu çözüm çok mantıklıdır. Kurumsal dünyanın yapay zeka kullanımı, açık internette istenmeyecek hassas verilerle potansiyel olarak bağlantılı olan veri ve performansın analiz edilmesini ve optimize edilmesini içerir. Çevrimiçi ChatGPT modeli, kendi kullanımına göre kendini eğitiyor; bu, hassas verileri olan kullanıcıları potansiyel olarak bir AI veritabanına sızmaktan haklı olarak korkutacaktır. Açık internetle bağlantısı kesilen ancak bu çözümler için verilerinize bağlanan yerel bir AI sohbet robotuna sahip olmak, güvenlik odaklı şirketler için potansiyel olarak oyunun kurallarını değiştirebilir ve bu aracı bir NAS’a yerleştirmek, ağdaki herkesin AI araçlarına erişmesine olanak tanır.
Bu proje, giderek yenilik odaklı hale gelen YouTube teknoloji ortamında canlandırıcı derecede faydalıdır. Zaten başlı başına bir güç merkezi olan bir NAS’a ChatGPT yeteneklerini eklemek (kurumsal ortamlarda 15 TB NVMe sürücüler daha yaygın hale geliyor ve bu QNAP canavarı bunlardan 12 tanesine uyuyor), bunu kullanmak isteyen şirketler için hiç düşünmeden. Hızla gelişen bir dünyada kendilerini daha rekabetçi hale getirmek için yapay zekanın gücü. Yapay zeka dil modelleriyle ilgili bazı ahlaki kaygılar veya korkular burada da ortadan kaldırılıyor: Tamamen şebekeden bağımsız bir dil modeli kullanmak, yapay zekanın yanıtlarınızı çalmasına karşı sizi güvende tutar ve botun yalnızca verileriniz üzerinde eğitilmiş olması, korsanlığın veya veri hırsızlığının önlenmesini sağlar. Sohbet uygulamasını güçlendirmek için LLM modelini indirdikten sonra diğerlerinin devamı sağlanıyor.
Projeye daha derinlemesine bakmak ve onu kendiniz için nasıl kopyalayacağınızı öğrenmek için makaleye göz atın StorageReview’da. Kendi AI NAS projenizi başlatmanıza yardımcı olması için tarafımızdan incelenen en iyi SSD’leri ve HDD’leri isteyeceksiniz. Gerçekten DIY yapmak istiyorsanız, kendi NAS kasanızı 3D yazdırmayı düşünün.
