Elon Musk’un şirketleri Tesla ve xAI, bu yılın sonuna kadar 10 milyar dolar değerinde eğitim hesaplama kapasitesini çevrimiçi hale getirecek. Sawyer MerrittTwinBirch’in kurucu ortağı ve Tesla yatırımcısı. Ancak yine de bu, muhtemelen her iki şirketin de Elon Musk tarafından belirlenen programın biraz gerisinde kalacağı anlamına geliyor.
Elon Musk ve şirketleri son dönemde aktif olarak yapay zekalı süper bilgisayarlarla ilgili duyurular yapıyor, yani aslında çok büyük yatırımlardan bahsediyoruz.
Temmuz ayında xAI, 100.000 sıvı soğutmalı H100 GPU’yu entegre edecek şekilde ayarlanan Memphis Supercluster’ı kullanarak AI eğitimine başladı. Bu sistem, tek başına 100.000 H100 GPU’nun yaklaşık 70 MW’a karşılık gelmesi nedeniyle en az 150 MW çeken devasa miktarda bir güç gerektirir. Sistemin toplam maliyeti bilinmiyor, ancak yalnızca GPU’lar yaklaşık 2 milyar dolara mal olacak (birim başına 20.000 ABD dolarından satın alınırsa) ve genellikle AI GPU’lar tüm sistemin maliyetinin yarısını oluşturuyor.
Ağustos ayının sonlarında Tesla, 50.000 adet etkileyici Nvidia H100 GPU ve 20.000 adet Tesla’nın kendi Dojo AI yonga boyutunda çipiyle donatılmış Cortex AI kümesini tanıttı. Dojo kümesinin Tesla’nın tam otomatik sürüş (FSD) yeteneğini eğitmesi öngörülüyor, dolayısıyla bu makine şirket için stratejik açıdan hayati önem taşıyor.
Maliyetlere gelince, H100 tabanlı makinede iki milyardan, Dojo süper bilgisayarında ise en az bir milyardan bahsediyoruz. Dojo makineleri tamamen özel olarak tasarlandığından bu milyar hafife alınabilir. Örneğin, her Dojo D1 kabini 200 kW’tan fazla enerji tüketir (bağlamda açıklamak gerekirse, her B200 NVL72 kabininin 120 kW tüketmesi beklenir) ve bu nedenle tamamen özel bir soğutma dağıtım ünitesi (CDU) ve güç kaynağı gerektirir; maliyet.
Son olarak Eylül ayı başında xAI, halihazırda 100.000 H100 GPU’yu entegre eden ve önümüzdeki aylarda 50.000 H100 ve 50.000 H200 GPU’yu eklemesi beklenen Colossus süper bilgisayarını çalıştırmaya başladı. Bu dev yapay zeka süper bilgisayarının maliyeti de milyarlarca dolar.
XAI ve Tesla muhtemelen bu yıl yapay zeka donanımına 10 milyar doların üzerinde harcama yaptıklarını duyurdular. Elbette, tüm bu AI sunucularının kurulup çevrimiçi hale gelmesi biraz zaman alacak, bu nedenle iki şirketin 2024’te kurduğu AI donanımının toplam işlevsel maliyetini yalnızca tahmin edebiliriz.
Ancak bu muazzam harcamalarla ilgili en ironik şey, Elon Musk’un bu yıl Tesla’nın yapay zeka donanımına yalnızca 10 milyar dolar harcayacağını söylediğinde bu Nisan ayında ana hatlarını çizdiği iddialı planın biraz gerisinde kalmış gibi görünmesi.
Musk, “Tesla bu yıl birleşik eğitim ve çıkarım yapay zekasına yaklaşık 10 milyar dolar harcayacak; ikincisi öncelikle arabada olacak” dedi. bir X gönderisinde yazdı. “Bu seviyede harcama yapmayan ve bunu verimli bir şekilde yapmayan hiçbir şirket rekabet edemez.”
Tesla’nın Cortex AI kümesi, muhtemelen şirketin daha fazla Dojo veya daha fazla Nvidia tabanlı makine kurmaya karar vermesi durumunda zamanla daha da pahalı hale gelecek maliyetli bir girişim olsa da, bunun örneğin 5 milyar dolardan önemli ölçüde daha fazla bir maliyete sahip olduğundan şüpheliyiz. Arabalardaki yapay zeka çıkarım donanımının maliyetine gelince, Tesla’nın bu yıl üreteceği araçlardaki yapay zeka hesaplama donanımının 5 milyar dolara mal olacağını düşünemiyoruz.
