Yapay zeka giderek buluttan cihaza doğru ilerledikçe, şu veya bu yeni dizüstü bilgisayarın GenAI destekli bir uygulamayı rakip hazır dizüstü bilgisayarlardan veya masaüstü bilgisayarlardan daha hızlı çalıştırıp çalıştırmayacağını tam olarak nasıl bilebiliriz? ? Bilmek, bir görüntünün oluşturulması için birkaç saniye beklemekle birkaç dakika beklemek arasındaki fark anlamına gelebilir; dedikleri gibi vakit nakittir.
Yapay zeka ile ilgili bir dizi donanım kıyaslama standardının arkasındaki endüstri grubu olan MLCommons, istiyor Karşılaştırmalı alışveriş yapmayı kolaylaştırmak için “istemci sistemleri” (yani tüketici bilgisayarları) için yapay zeka performans kıyaslamalarının başlatılması.
Bugün MLCommons, hedefi Windows, Linux ve diğer işletim sistemlerini çalıştıran masaüstü bilgisayarlar, dizüstü bilgisayarlar ve iş istasyonları için yapay zeka kıyaslamaları oluşturmak olan yeni bir çalışma grubu olan MLPerf Client’ın kurulduğunu duyurdu. MLCommons, kriterlerin “senaryo odaklı”, gerçek son kullanıcı kullanım senaryolarına odaklanan ve “topluluktan gelen geri bildirimlere dayalı” olacağını vaat ediyor.
Bu amaçla, MLPerf Client’ın ilk kıyaslaması metin oluşturma modellerine, özellikle de MLCommons genel müdürü David Kanter’in belirttiği gibi Meta’nın Llama 2’sine odaklanacak ve bu modeller halihazırda MLCommons’un veri merkezi çipleri için diğer kıyaslama paketlerine dahil edilmiş durumda.
Kanter bir basın açıklamasında, “Yapay zeka her yerde bilişimin beklenen bir parçası haline geldiğinden, MLPerf’i istemci sistemlerine getirmenin zamanı geldi” dedi. “MLPerf’in mükemmelliğini müşteri sistemlerine taşımak ve daha geniş bir topluluk için yeni yetenekler sağlamak üzere üyelerimizle birlikte çalışmayı sabırsızlıkla bekliyoruz.”
MLPerf İstemci çalışma grubunun üyeleri arasında AMD, Arm, Asus, Dell, Intel, Lenovo, Microsoft, Nvidia ve Qualcomm yer alıyor; ancak özellikle Apple değil.
Apple da MLCommons’un bir üyesi değil ve Microsoft mühendislik direktörü (Yannis Minadakis) MLPerf İstemci grubuna eş başkanlık yapıyor; bu da bu ihmalin tamamen şaşırtıcı olmadığını gösteriyor. Ancak hayal kırıklığı yaratan sonuç, MLPerf Client’ın ortaya koyduğu AI kriterleri ne olursa olsun, Apple cihazlarında test edilmeyecek olması; en azından yakın vadede.
Yine de bu yazar, MLPerf İstemcisinden ne tür kıyaslamaların ve araçların (macOS destekli olsun ya da olmasın) ortaya çıktığını merak ediyor. GenAI’nın burada kalacağını varsayarsak – ve balonun yakın zamanda patlamak üzere olduğuna dair bir gösterge yok – AI kıyaslamalarının cihaz satın alma kararlarında giderek daha fazla rol oynadığını görmek beni şaşırtmaz.
En iyi senaryomda, MLPerf İstemci kıyaslamaları, çevrimiçi birçok bilgisayar derleme karşılaştırma aracına benzer olacak ve belirli bir makineden ne tür bir AI uygulama performansı beklenebileceğine dair bir gösterge verecek. Belki de Qualcomm ve Arm’ın katılımı göz önüne alındığında (her ikisi de mobil cihaz ekosistemine büyük yatırımlar yapıyor) gelecekte telefonları ve tabletleri de kapsayacak şekilde genişleyecekler. Açıkça erken günler – ama işte umut ediyorum.