Nvidia’nın ChatRTX uygulaması beklenen sürüm 0.3 güncellemesini bugün yayınladı. Nvidia’nın web sitesi. ChatGPT benzeri uygulamaya yapılan güncelleme, ilk olarak Mart ayında Nvidia’nın GTC konferansında tanıtılan, fotoğraf arama yetenekleri, yapay zeka destekli konuşma tanıma ve daha fazla LLM ile uyumluluk dahil olmak üzere bir dizi yeni özelliğin önünü açıyor.
ChatRTX, tüketici RTX grafik kartları tarafından desteklendiğinde yapay zekanın gücünün Nvidia’nın önde gelen teknoloji gösterilerinden bir tanesini temsil ediyor. ChatRTX programı, bilgisayarınıza yerel olarak yüklenen ChatGPT’ye bitişik bir deneyim sunar ve verilerinizin eğitim amacıyla veya daha kötü amaçlı kullanımlar için çalınması riski olmadan yapay zeka kullanım senaryolarına dönüştürme olanağı sunar. Programın uygulamadaki bir örneği, ChatRTX’in veri sentezi yeteneklerini kendi veri ağı genelinde kullanmak için bir NAS’a bir RTX kartı takan bir meraklının bu örneğinde görülebilir.
Yeni sürümü resmi olarak yayınlanmadan önce indirip bazı yeni özelliklere göz atabildik. ChatRTX, desteklenen LLM’lerin (dil öğrenme modelleri; yani GPT-4) kararlılığını, Google’ın en son LLM’si Gemma ve yeni bir açık kaynak seçeneği olan ChatGLM3-6B gibi yeni seçenekleri içerecek şekilde genişletti. Farklı LLM’ler aynı görevleri tamamen farklı şekilde gerçekleştirebileceğinden, kendi LLM’nizi seçebilmeniz çok değerlidir.
ChatRTX’in fotoğraf arama ve etkileşim araçları da büyük bir gelişme kaydetti; OpenAI’nin CLIP aracından alınan teknoloji, programın daha önce uygulamanın gerektirdiği kapsamlı karmaşık meta veri etiketlemesi olmadan görsel aramasına olanak tanıyor. Son olarak, ChatRTX kullanıcıları, ChatRTX’in sözlü konuşmayı anlamasını sağlayan yapay zeka destekli bir konuşma tanıma sistemi olan Whisper’ın ek desteğiyle artık verileriyle konuşabiliyor.
Teknoloji demosu, Nvidia’nın tensör çekirdeklerinin ve TensorRT kütüphanesinin gücünden yararlanıyor, dolayısıyla bir RTX GPU gerektiriyor ve şimdilik birinci nesil RTX 20 serisini de desteklemiyor. Dolayısıyla, uygulamayı kendiniz çalıştırmak istiyorsanız en az 8 GB VRAM’e sahip bir Nvidia RTX 30 veya 40 serisi GPU’ya ihtiyacınız olacak; aynı şekilde, profesyonel Ampere veya Ada GPU’lardan herhangi biri de bu işi görecektir.
Programın, bir güvenlik açığını düzeltmek için acil 0.2.x güncellemelerinden kısa bir süre sonra yakın zamanda kaldırılan YouTube bağlantı temizleme özelliklerinin beklenen geri dönüşü de dahil olmak üzere, nihai 1.0 sürümünden önce işlevselliğini artırmaya devam etmesi muhtemeldir.