Yapay zeka (AI) teknolojisi için kıyaslama testleri geliştiren bir grup olan MLCommons, Salı günü, ChatGPT gibi sohbet botları için kullanılan eğitim algoritmaları ve Nvidia zirveye çıktığında sistem hızlarını belirleyen yeni bir testin sonuçlarını açıkladı.
MLPerf testi, OpenAI tarafından geliştirilen ve Microsoft tarafından desteklenen viral sohbet robotu ChatGPT’yi eğitmek için kullanılan bir yapay zeka modeli olan GPT-3’e dayanmaktadır. Bununla birlikte, model çok büyük olduğu için kıyaslama yalnızca temsili bir kısım kullanır.
MLCommons İcra Direktörü David Kanter Reuters’e “Bu, şimdiye kadarki en pahalı kriterimizdi” dedi. “Bunu geliştirmek için 600.000 saatin üzerinde hızlandırıcı bilgi işlem süresi ve olağanüstü yetenekli bazı mühendisler harcadık.”
Kanter, yalnızca milyonlarca dolar olduğunu söyleyerek geliştirme maliyetini açıklamayı reddetti.
Yalnızca iki yonga şirketi – Nvidia ve Intel’in Habana Labs – kıyaslama için sonuçları sundu ve en hızlı zaman, AI eğitimi için donanımda tartışmasız lider olan Nvidia’nın en son H100 yongasını kullanan sistemlerden geldi.
Nvidia’nın AI bulut başlangıcı CoreWeave ile ortaklaşa sunulan en büyük sistemi, 3.584 H100 yongası kullandı ve bu da 10,94 dakikalık bir eğitim süresi sağladı. Intel tarafından satın alınan bir yapay zeka yonga şirketi olan Habana Labs, 384 Gaudi2 yongası ile donatılmış çok daha küçük bir sistemle karşılaştırmayı 311.945 dakikada gerçekleştirdi.
Genel olarak, daha fazla çip ve daha büyük bir sistem, daha hızlı eğitim anlamına gelir.
Intel’in Yapay Zeka Ürünleri Kıdemli Direktörü Jordan Plawner, sonuçların hızı artırmak için Eylül ayında bir yazılım güncellemesi alacak olan Gaudi2’nin potansiyelini gösterdiğini söyledi.
Reuters’e konuşan Plawner, “Habana sonuçlarında 1,5 ila 2 kat arası bir hız artışı elde edeceksiniz. İşte o zaman Habana Gaudi2’nin gerçekten rekabetçi ve H100’den daha düşük fiyatlı olduğunu görüyoruz.”
Planwner, bir Gaudi2 çipinin ne kadara mal olduğunu söylemeyi reddetti, ancak endüstrinin yapay zeka eğitimi için ikinci bir çip tedarikçisine ihtiyacı olduğunu ve MLPerf sonuçlarının Intel’in bu ihtiyacı karşılayabileceğini gösterdiğini söyledi.
© Thomson Reuters 2023