Nvidia, kendi yapay zeka destekli sohbet robotu Chat with RTX’i tanıttı. ChatGPT ve benzerlerinin aksine, bu bot, belirli bir kullanıcının bilgisayarında yerel olarak çalışır.
Sohbet robotu, TensorRT-LLM ve Retrival Augmented Geneered (RAG) tabanlıdır ve çalışması için tensör çekirdeklerine ihtiyaç duyar. Aynı zamanda GeForce RTX 20 ekran kartları bazı nedenlerden dolayı desteklenmiyor, bu nedenle yeni ürün yalnızca RTX 30 ve RTX 40 serisindeki adaptör sahiplerinin kullanımına sunuluyor.Ayrıca video kartının sahip olması şeklinde bir durum da var. en az 8 GB bellek, yani bazı mobil modeller desteklenenler listesine dahil edilmiyor ve masaüstünden bakıldığında yalnızca yeni RTX 3050 6GB görünüyor. Ayrıca en az 16 GB RAM ve Windows 11’e ihtiyacınız var.
Chat with RTX’in yerel de olsa sıradan bir chatbot olmaması da çok önemli. PC’deki çeşitli dosyalara (.txt, .pdf, .doc, .docx, .xml) erişim sağlanabilir, YouTube videolarını analiz edebilir ve ayrıca büyük Mistral ve Llama 2 dil modellerine bağlanabilir.
