Elon Musk, xAI’nin yeni nesil üretken yapay zeka Grok’u eğitmek için çok sayıda Nvidia hızlandırıcıya ihtiyacı olduğunu söyledi.
Yakında piyasaya çıkacak olan Grok 2 modelinin eğitimi için 20.000 adet Nvidia H100 hızlandırıcı gerekiyordu. Ancak Grok 3 için bu adaptörlerden yaklaşık 100.000 adete ihtiyacınız olacak. Veya daha az sayıda daha güçlü Blackwell hızlandırıcıları.
Musk’a göre yapay zeka teknolojilerinin gelişimi şu anda iki ana faktör tarafından engelleniyor: son teknoloji ürünü yapay zeka hızlandırıcıların eksikliği ve elektriğin bulunabilirliği. Bir H100’ün yaklaşık 700 W güç tükettiğini hatırlayalım. Dolayısıyla bu tür 100.000 kart sırasıyla 70 MW tüketecek ve bu, diğer bileşenleri hesaba katmadan yalnızca kartların kendisidir. Toplamda, tüm sistem 100 MW’ı aşabilir.
