Önceki hikayemizi takip ederek, ChatGPT’nin artan popülaritesi nedeniyle NVIDIA’nın GPU büyümesinin önümüzdeki aylarda hızlanması bekleniyor gibi görünüyor.
NVIDIA Yapay Zeka GPU’ları, ChatGPT ve Diğer Yapay Zeka Oluşturma Araçlarını Kullanan Yapay Zeka Devlerinden Gelen Artan Talep Nedeniyle Eksikliklerle Karşı Karşıya Olabilir
Daha önce bildirildiği gibi, ChatGPT ve diğer dil/görüntü/video oluşturma araçları, büyük ölçüde AI işleme gücüne güvenir ve NVIDIA’nın ana gücü burada yatmaktadır. ChatGPT’den yararlanan büyük teknoloji şirketlerinin, artan yapay zeka gereksinimlerini desteklemek için NVIDIA’nın GPU’larını kullanmasının nedeni budur. Görünüşe göre NVIDIA’nın bu sektördeki hüneri, önümüzdeki aylarda şirketin AI GPU’larında bir kıtlığa neden olabilir.
tarafından bildirildiği gibi Şiddetli Elektronik, ChatGPT (Open.AI’den Beta sürümü), NVIDIA’dan 10.000 GPU üzerinde eğitildi, ancak halkın ilgisini çektiğinden beri, sistem bunalmış durumda ve geniş bir kullanıcı tabanının talebini karşılayamıyor. Bu nedenle şirket, yalnızca yoğun zamanlarda bile sunuculara genel erişim sağlamakla kalmayacak, aynı zamanda daha hızlı yanıt süreleri ve yeni özelliklere ve iyileştirmelere öncelikli erişim sağlayacak yeni bir ChatGPT Plus abonelik planını duyurdu. ChatGPT Plus aboneliği ayda 20 ABD doları karşılığında kullanılabilir.
“ChatGPT veya diğer derin öğrenme modellerinin gelecekte başka satıcılara ait GPU’lar üzerinde eğitilmesi veya çalıştırılması mümkündür. Ancak, şu anda NVIDIA GPU’ları, yüksek performansları ve CUDA desteği nedeniyle derin öğrenme topluluğunda yaygın olarak kullanılmaktadır. CUDA, NVIDIA GPU’larında verimli hesaplamaya izin veren, NVIDIA tarafından geliştirilmiş bir paralel bilgi işlem platformu ve programlama modelidir. TensorFlow ve PyTorch gibi birçok derin öğrenme kitaplığı ve çerçevesi, CUDA için yerleşik desteğe sahiptir ve NVIDIA GPU’lar için optimize edilmiştir.
FierceElectronics aracılığıyla
Microsoft ve Google gibi büyük teknoloji devleri de ChatGPT benzeri LLM’leri arama motorlarına entegre etmeyi planlıyor. Forbes. Google’ın bunu her arama sorgusuna entegre etmesi için 512.820 A100 HGX sunucusu ve toplam 4.102.568 A100 GPU gerektirecektir, bu da sunucu ve ağ maliyetleri açısından tek başına yaklaşık 100 Milyar ABD Doları tutarında bir Yatırım Harcaması anlamına gelecektir.
Mevcut ChatGPT’yi Google tarafından yapılan her aramaya dağıtmak için 512.820,51 A100 HGX sunucusu ve toplam 4.102.568 A100 GPU gerekir. Bu sunucuların ve ağların toplam maliyeti, tek başına 100 milyar $’ı aşan yatırım harcaması, Nvidia’nın büyük bir bölümünü alacağı. Elbette bu asla olmayacak, ancak herhangi bir yazılım veya donanım iyileştirmesi yapılmadığını varsayarsak eğlenceli bir düşünce deneyi.
Investing.com Analistlerin, mevcut ChatGPT modelinin BETA tarafından kullanılan 10.000 NVIDIA GPU’ya karşı yaklaşık 25.000 NVIDIA GPU’da eğitildiğini tahmin ettiğini bildiriyor.
Analistler, “GPT 5’in şu anda 25 bin GPU’da (225 milyon ABD doları veya daha fazla NVIDIA donanımı) eğitildiğini düşünüyoruz ve çıkarım maliyetleri muhtemelen gördüğümüz bazı rakamlardan çok daha düşük” diye yazdı. “Ayrıca, çıkarım maliyetlerinin düşürülmesi, bulut devlerinden gelen ‘arama maliyeti’ tartışmasının çözülmesinde kritik olacaktır.”
Investing.com aracılığıyla
Bu, NVIDIA için iyi bir haber olabilir ancak tüketiciler, özellikle de oyuncular için pek de iyi bir haber değil. NVIDIA, AI GPU’ları işinde bir fırsat görürse, arza oyun GPU’ları yerine öncelik verebilir. Oyun GPU’larının Çin Yeni Yılı nedeniyle bu çeyrekte sınırlı tedarik gördüğü zaten bildirildi ve stok hala orada olsa da, bu zaten kıtlık içinde olan üst düzey GPU’lar için bir sorun oluşturabilir. Ayrıca, üst düzey GPU’lar, sunucu parçaları çok daha düşük bir fiyata olduğundan daha yüksek AI yetenekleri sunar ve oyunculardan gelen arzı daha da azaltarak kazançlı bir seçenek haline gelebilir.
Yapay zeka segmentinden gelen bu büyük talebe NVIDIA’nın nasıl yanıt vereceğini merakla bekliyoruz. GPU devi bekleniyor Q4 FY23 için kazançlarını açıkladı 22 Şubat 2023’te.