Yapay zeka gelen cips Qualcomm A.Ş. vurmak Nvidia Corp, Çarşamba günü yayınlanan yeni bir test verisi setinde üç güç verimliliği ölçümünden ikisinde yer alırken, Tayvanlı bir girişim bir kategoride her ikisini de geride bıraktı.
Nvidia, büyük miktarda veri içeren AI modellerini eğitme pazarına hakimdir. Ancak bu AI modelleri eğitildikten sonra, istemlere metin yanıtları oluşturmak ve bir görüntünün kedi içerip içermediğine karar vermek gibi görevler yaparak “çıkarım” adı verilen şeyde daha geniş bir şekilde kullanılırlar.
Analistler, işletmeler yapay zeka teknolojilerini ürünlerine dahil ettikçe veri merkezi çıkarım yongaları pazarının hızla büyüyeceğine inanıyor, ancak Alphabet Inc’in Google’ı gibi şirketler, bunun getireceği ekstra maliyetleri nasıl sınırlayacaklarını şimdiden araştırıyorlar.
Bu önemli maliyetlerden biri de elektriktir ve Qualcomm pille çalışan cihazlar için çip tasarlama geçmişini kullandı. cihazlar akıllı telefonlar gibi, cimri güç tüketimini amaçlayan Cloud AI 100 adlı bir çip oluşturmak için.
Çarşamba günü yayınlanan test verilerinde, yaygın olarak kullanılan test kriterlerini koruyan bir mühendislik konsorsiyumu olan MLCommons tarafından yapay zeka çipi Sektörde, Qualcomm’un AI 100’ü, Nvidia’nın amiral gemisi H100 yongasını, her bir yonganın watt başına gerçekleştirebileceği veri merkezi sunucu sorgusu sayısına göre görüntüleri sınıflandırmada geride bıraktı.
Qualcomm’un çipleri watt başına 197,6 sunucu sorgusuna, Nvidia için watt başına 108,4 sorguya ulaştı. Kıdemli Tayvanlı çip akademisyeni Youn-Long Lin tarafından kurulan bir girişim olan Neuchips, watt başına 227 sorgu ile ilk sırayı aldı.
Qualcomm ayrıca, Nvidia’nın watt başına 2,4 sorgusuna karşı watt başına 3,2 sorgu puanıyla nesne algılamada Nvidia’yı yendi. Nesne algılama, alışveriş yapanların en sık nereye gittiklerini görmek için perakende mağazalardan alınan görüntülerin analiz edilmesi gibi uygulamalarda kullanılabilir.
Bununla birlikte Nvidia, sohbet botları gibi sistemlerde en yaygın olarak kullanılan yapay zeka teknolojisi olan doğal dil işleme testinde hem mutlak performans açısından hem de güç verimliliği açısından en üst sırayı aldı. Nvidia, watt başına 10,8 örnekle ulaşırken, Neuchips watt başına 8,9 örnekle ikinci sırada ve Qualcomm, watt başına 7,5 örnekle üçüncü sırada yer aldı.
FacebooktwitterLinkedin
