NVIDIA, en yeni GPU’larına OpenAI’nin Sohbet API’si için destek ekliyor. İşte bu yüzden bu çok önemli.
Ne bilmek istiyorsun TensorRT-LLM, 8 GB VRAM’den başlayan RTX GPU’lara sahip masaüstü ve dizüstü bilgisayarlar için OpenAI’nin Sohbet API desteğini ekliyor. Kullanıcılar, veri kümelerini buluta yüklemeden LLM sorgularını daha hızlı…