Eski derin akıl başkanı tarafından bulunan ve Microsoft ve Nvidia tarafından desteklenen yeni bir girişim olan Inflection AI, geçen hafta sektörün ağır toplarından nakit ve bulut kredisinde 1,3 milyar dolar topladı. Görünüşe göre şirket parayı, Frontier süper bilgisayarınınkiyle karşılaştırılabilir en yüksek teorik hesaplama gücü performansına sahip olacak 22.000 kadar Nvidia’nın H100 bilgi işlem GPU’su tarafından desteklenen bir süper bilgisayar kümesi oluşturmak için kullanacak.
DeepMind’in kurucusu ve Inflection AI’nın kurucu ortaklarından Mustafa Süleyman, “Yaklaşık 22.000 H100’den oluşan bir küme oluşturacağız” dedi. Reuters. “Bu, tüm GPT-4’ü eğitmek için kullanılandan yaklaşık üç kat daha fazla bilgi işlem. Hız ve ölçek, farklılaştırılmış bir ürün oluşturmamızı gerçekten sağlayacak şeyler.”
22.000 Nvidia H100 bilgi işlem GPU’su tarafından desteklenen bir küme, teorik olarak 1,474 exaflop FP64 performansı sağlayabilir — bu, Tensor çekirdeklerini kullanır. CUDA çekirdeklerinde çalışan genel FP64 koduyla, en yüksek verim yalnızca yarısı kadardır: 0,737 FP64 exaflops. Bu arada, dünyanın en hızlı süper bilgisayarı, sınır, 1,813 FP64 exaflop’luk en yüksek bilgi işlem performansına sahiptir (matris işlemleri için bunun iki katı, 3,626 exaflop). Bu, planlanan yeni bilgisayarı şimdilik ikinci sıraya koyuyor, ancak El Capitan ve Aurora tamamen çevrimiçi olduktan sonra dördüncü sıraya düşebilir.
FP64 performansı birçok bilimsel iş yükü için önemli olsa da, bu sistem muhtemelen yapay zeka odaklı görevler için çok daha hızlı olacaktır. En yüksek FP16/BF16 verimi 43,5 exaflop’tur ve FP8 verimi için bunun iki katı olan 87,1 exaflop’tur. AMD’nin Instinct MI250X’inin 37.888’i tarafından desteklenen Frontier süper bilgisayarı, 14,5 exaflop’luk en yüksek BF16/FP16 verimine sahiptir.
Kümenin maliyeti bilinmiyor, ancak Nvidia’nın H100 bilgi işlem GPU’larının birim başına 30.000 dolardan fazla satıldığını göz önünde bulundurarak, küme için GPU’ların yüz milyonlarca dolara mal olmasını bekliyoruz. Tüm raf sunucularını ve diğer donanımları ekleyin ve bu, 1,3 milyar dolarlık finansmanın çoğunu oluşturur.
Inflection AI, kuruluşundan yaklaşık bir yıl sonra, şu anda yaklaşık 4 milyar dolar değerinde. Mevcut tek ürünü, kişisel zekanın kısaltması olan Pi adlı kuşaksal bir AI sohbet robotudur. Pi, planlama, zamanlama ve bilgi toplamayı destekleyecek ChatGPT’ye benzer üretken yapay zeka teknolojisine sahip yapay zeka destekli bir kişisel asistan olarak hizmet verecek şekilde tasarlanmıştır. Bu, Pi’nin kullanıcılarla diyalog yoluyla iletişim kurmasını sağlayarak, insanların soru sormasını ve geri bildirimde bulunmasını mümkün kılar. Diğer şeylerin yanı sıra, Inflection AI, Pi için duygusal destek sunmak gibi belirli kullanıcı deneyimi hedeflerini ana hatlarıyla açıkladı.
Şu anda Inflection AI, Microsoft Azure bulutunda 3.584 Nvidia H100 bilgi işlem GPU’suna dayalı bir küme işletiyor. Önerilen süper bilgi işlem kümesi, mevcut bulut tabanlı çözümün kabaca altı katı performans sunacak.