Rekabetçi performans ve kıyaslama başarısı
Şirket, şirket içi kıyaslamalarda AMD’nin OLMo modellerinin, çoklu görev ve genel muhakeme testlerinde TinyLlama-1.1B ve OpenELM-1_1B gibi benzer büyüklükteki açık kaynaklı modellere karşı iyi performans gösterdiğini iddia etti. Özellikle, GSM8k’deki görevlerde performansı %15’in üzerinde arttı; bu, AMD’nin çok aşamalı denetimli ince ayarına ve Doğrudan Tercih Optimizasyonuna (DPO) atfedilen önemli bir kazançtır. ‘
AMD, çok turlu sohbet testlerinde OLMo’nun AlpacaEval 2 Kazanma Oranında %3,41’lik bir üstünlük ve MT-Bench’te en yakın açık kaynak rakiplerine göre %0,97’lik bir kazanç gösterdiğini iddia etti.
Ancak daha geniş LLM manzarasına bakıldığında Nvidia’nın GH200’ü Grace Hopper Süper Çip ve H100 GPU, özellikle büyük, çok yönlü yapay zeka iş yükleri için LLM işlemede lider olmaya devam ediyor. Nvidia’nın CPU ve GPU arasındaki veri aktarımını hızlandıran C2C bağlantısı gibi yeniliklere odaklanması, öneri sistemleri gibi yüksek talep gerektiren çıkarım görevlerinde hız avantajı sağlayarak ona avantaj sağlıyor.