Ne bilmek istiyorsun
- Araştırma şirketi TrendForce tarafından hazırlanan bir rapora göre, ChatGPT’nin çalışması için 30.000 kadar NVIDIA GPU’ya ihtiyaç duyulacak.
- Bu hesaplamalar, maliyeti 10.000 ile 15.000 ABD Doları arasında değişen NVIDIA A100’ün işlem gücüne dayanmaktadır.
- Oyuncuların, ChatGPT’yi çalıştırmaya ayrılmış bu kadar çok GPU’dan etkilenip etkilenmeyeceği belli değil.
ChatGPT, 2022’nin sonlarına doğru teknoloji sahnesine fırladı. Bu yılın Ocak ayına kadar aracın aylık 100 milyon kullanıcısı olduğu bildirildi. Microsoft, Bing’in ChatGPT tarafından desteklenen yeni bir sürümünü duyurduğu için, yalnızca sonraki ay daha fazla kullanıcı alacaktı. Teknolojinin bu kadar ilgi görmesi ve gerçek dünyada kullanılmasıyla, şirketlerin ChatGPT’nin popülaritesinden kar elde etmesi şaşırtıcı değil.
Araştırma firmasına göre TrendForceNVIDIA, ChatGPT sayesinde 300 milyon $’a kadar gelir elde edebilir (üzerinden Tom’un Donanımı). Bu rakam, TrendForce’un ChatGPT’nin çalışması için 30.000 NVIDIA A100 GPU’ya ihtiyaç duyduğu analizine dayanmaktadır. NVIDIA’nın elde edeceği kesin rakam, OpenAI’nin kaç grafik kartına ihtiyaç duyduğuna ve NVIDIA’nın AI şirketine bu kadar büyük bir sipariş için indirim yapıp yapmadığına bağlı olacaktır.
NVIDIA, ChatGPT’yi çalıştırması amaçlanan grafik kartına bileşenlerin yerleştirilmesine öncelik verirse, bu diğer GPU’ların kullanılabilirliğini etkileyebilir.
ChatGPT, insanların oyun bilgisayarlarına koyduklarından farklı türde bir GPU kullanır. Bir NVIDIA A100’ün maliyeti 10.000 ila 15.000 ABD Doları arasındadır ve ChatGPT’nin sistemlere yüklediği talebi karşılaması amaçlanır. Bu nedenle, oyuncular ChatGPT’yi çalıştırmak için kullanılan bu kadar çok sayıda A100 GPU’dan etkilenmeyecek gibi görünebilir, ancak durum tamamen bu değil.
Küresel çip kıtlığı, tüm grafik kartlarından değil, çip kıtlığından kaynaklanıyordu. Bu nedenle otomobil firmaları ve bilgisayar grafik kartı üreticilerinin aynı bileşenler için rekabet etmesi gibi garip durumlar gördük. Tabii ki, çoğu arabada oyun GPU’ları yoktur, Tesla istisnadır, ancak çipler imalat, bilgisayar ve diğer birçok endüstride kullanılmaktadır.
NVIDIA, ChatGPT’yi çalıştırması amaçlanan grafik kartına bileşenlerin yerleştirilmesine öncelik verirse, bu diğer GPU’ların kullanılabilirliğini etkileyebilir.
Tüm bunlarda bir başka faktör de Microsoft ve OpenAI’nin yakın zamanda genişletilmiş ortaklığıdır. (yeni sekmede açılır). ChatGPT, 30.000 NVIDIA A100 GPU’ya eşdeğer işlem gücü gerektirse de, bu güç Microsoft’un kendi Azure sistemlerinden gelebilir. Durum buysa, ChatGPT’yi çalıştırmak için gereken fiziksel GPU sayısı büyük ölçüde farklı olacaktır.