Yapay zeka kıyaslama grubu MLCommons, Çarşamba günü, en üst düzey donanımın AI uygulamalarını çalıştırabilme ve kullanıcılara yanıt verme hızını derecelendiren yeni bir dizi test ve sonuç yayınladı.
MLCommons tarafından eklenen iki yeni kıyaslama, yapay zeka çiplerinin ve sistemlerinin verilerle dolu güçlü yapay zeka modellerinden yanıt üretme hızını ölçüyor. Sonuçlar kabaca ChatGPT gibi bir yapay zeka uygulamasının bir kullanıcı sorgusuna ne kadar hızlı yanıt verebildiğini gösteriyor.
Yeni ölçütlerden biri, büyük dil modelleri için soru-cevap senaryosunun hızını ölçme yeteneğini ekledi. Llama 2 adı verilen ve 70 milyar parametre içeren Meta Platforms tarafından geliştirildi.
MLCommons yetkilileri ayrıca kıyaslama araçları grubuna, Stability AI’nin Stable Diffusion XL modelini temel alan MLPerf adı verilen ikinci bir metinden görüntüye oluşturucuyu ekledi.
Alphabet’in Google, Supermicro ve Nvidia’nın kendisi tarafından oluşturulan Nvidia’nın H100 çipleriyle desteklenen sunucular, ham performansta her iki yeni kriteri de kolaylıkla kazandı. Birkaç sunucu üreticisi, şirketin daha az güçlü olan L40S yongasını temel alan tasarımlar sundu.
Sunucu oluşturucu Krai, Nvidia’nın son teknoloji işlemcilerinden önemli ölçüde daha az güç çeken Qualcomm AI çipiyle görüntü oluşturma karşılaştırması için bir tasarım sundu.
Intel ayrıca Gaudi2 hızlandırıcı çiplerini temel alan bir tasarım da sundu. Şirket sonuçları “sağlam” olarak nitelendirdi.
Yapay zeka uygulamalarını dağıtırken kritik olan tek ölçü ham performans değildir. Gelişmiş yapay zeka çipleri muazzam miktarda enerji tüketiyor ve yapay zeka şirketleri için en önemli zorluklardan biri, minimum miktarda enerjiyle optimum miktarda performans sağlayan çiplerin dağıtımıdır.
MLCommons’un güç tüketimini ölçmek için ayrı bir kıyaslama kategorisi vardır.
© Thomson Reuters 2024
(Bu hikaye NDTV personeli tarafından düzenlenmemiştir ve ortak yayından otomatik olarak oluşturulmuştur.)
En son teknoloji haberleri ve incelemeleri için Gadgets 360’ı takip edin X, Facebook, Naber, İş Parçacığı Ve Google Haberleri. Cihazlar ve teknolojiyle ilgili en son videolar için abone olun Youtube kanalı. En iyi etkileyiciler hakkında her şeyi bilmek istiyorsanız şirket içi bölümümüzü takip edin O Kim360 Açık instagram Ve Youtube.
ABD, KuCoin’in Kara Para Aklama Kurallarına Uymadığını ve 9 Milyar Dolarlık Şüpheli Kripto Ticaretinde Kullanıldığını Açıkladı
