Elon Musk’un var açıklığa kavuşmuş yeni nesil Grok 3 LLM modelinin 100.000 adet NVIDIA H100 AI GPU ile eğitildiğini söyledi.
Elon Musk’un Yapay Zeka Girişimi, Grok LLM Modelleriyle Devasa Bir Atılım Elde Etmeyi Planlıyor, 100K NVIDIA H100 Yapay Zeka GPU’larını Kullanarak Oyunu Hızlandırıyor
Görünüşe göre yapay zeka odaklı diğer tüm firmalar, yapay zeka sohbet robotlarına olan artan ihtiyacı karşılamak için LLM modellerinin gelişmiş versiyonlarını çıkarmak için birbirleriyle mücadele ediyor. Yarışa katılacak yeni firmalardan biri de Elon Musk’un yapay zeka girişimi xAI’dir; daha önce X’teki birinci sınıf kullanıcılar için yapay zeka asistanı olarak entegrasyonu için özel olarak tasarlanan “Grok” LLM modellerinin geliştirildiğini duyurmuştu.
Firma orijinal modelin daha yeni versiyonlarını yayınladı ve xAI şu anda Grok 2’ye hazırlanıyor; ancak Elon, son tweet’inde önceki modellerden çok daha büyük olacağını iddia ederek yeni nesil Grok 3 modelini tanıtmaya başladı.
Grok 3’ün 100k H100’lerdeki eğitimden sonraki yıl sonu gerçekten özel bir şey olmalı
— Elon Musk (@elonmusk) 1 Temmuz 2024
Grok 3’ü eğitmek için kullanılan donanımın açıklanması aynı zamanda şaşırtıcı ve heyecan verici bir şey çünkü model eğitimi için 100.000 adet NVIDIA’nın üst düzey H100 AI GPU’larının kullanılması, pazarların henüz görmediği bir sonuç üretecek.
Bu ifadeyi desteklemek için, OpenAI’nin GPT-4 LLM modelinin, H100’lere kıyasla nispeten eski ve miktar olarak da daha az olan 40.000 adet NVIDIA A100 AI GPU’su üzerinde eğitildiği söyleniyor; dolayısıyla Grok 3 AI modelinin kendi içinde taşıyacağı yetenekleri hayal edebilirsiniz.
Daha önceki bir tweet’inde Elon Musk, yüksek lisans öğrencilerinin internet verileri aracılığıyla eğitiminin yoğun olduğunu ve özellikle bilgi işlem kaynakları söz konusu olduğunda “çok fazla çalışma” gerektirdiğini iddia etmişti. Ağustos ayında çıkması planlanan Grok 2 AI modelinin bu açıdan bir gelişme olduğunu ve yeni nesil Grok 3 LLM modelinin önceki modellerin üzerine inşa edileceğini ve sonuçta xAI’nin devasa bir ürünü olacağını söyledi.
Bunun dışında Elon Musk, daha önce NVIDIA’nın xAI için amiral gemisi Blackwell B200 AI hızlandırıcılarını da satın almayı planladığını açıklamıştı. Bu hızlandırıcıların piyasa dinamikleri dikkate alındığında devasa bir miktar olan 9 milyar dolar değerinde olduğu görülüyor. Grok 3’ün 100.000 birim NVIDIA H100 kullandığı düşünüldüğünde, modelin sadece eğitimde yaklaşık 3 milyar dolara mal olması bekleniyor; bu da Elon’un xAI ile her şeyi maksimuma çıkardığı gerçeğini haklı çıkarıyor.
xAI ve girişimlerinin AI heyecanına nasıl katkıda bulunduğunu görmek ilginç olacak ve görünüşe göre Elon’un AI girişimi bir sonraki büyük şey olabilir.