Meta Çarşamba günü, yapay zeka (AI) iş yükleri için özel yapım yonga setleri ailesi olan yeni nesil Meta Eğitim ve Çıkarım Hızlandırıcısını (MTIA) tanıttı. Yapay Zeka yonga setine yapılan yükseltme, şirketin ilk Yapay Zeka yongalarını piyasaya sürmesinden neredeyse bir yıl sonra gerçekleşti. Bu Çıkarım Hızlandırıcıları, teknoloji devinin mevcut ve gelecekteki ürünlerine, hizmetlerine ve sosyal medya platformlarında yer alan yapay zekaya güç verecek. Meta özellikle yonga setinin yeteneklerinin sıralama ve öneri modellerine hizmet etmek için kullanılacağını vurguladı.
Duyuru onun aracılığıyla yapılıyor Blog yazısıMeta şunları söyledi: “Yeni nesil Meta’nın büyük ölçekli altyapısı, yeni üretken yapay zeka (GenAI) ürün ve hizmetleri, öneri sistemleri ve gelişmiş yapay zeka araştırmalarının desteklenmesi de dahil olmak üzere yapay zeka göz önünde bulundurularak inşa ediliyor. Yapay zeka modellerini desteklemek için bilgi işlem gereksinimlerinin modellerin karmaşıklığının yanı sıra artması nedeniyle önümüzdeki yıllarda da büyümesini beklediğimiz bir yatırım bu.”
Yeni AI çipi, Meta’ya göre mimarisindeki iyileştirmeler nedeniyle hem güç üretiminde hem de verimlilikte önemli iyileştirmeler sunuyor. Yeni nesil MTIA, önceki modele kıyasla bilgi işlem ve bellek bant genişliğini iki katına çıkarıyor. Ayrıca Meta’nın, sosyal medya platformlarındaki kullanıcıları için içeriği kişiselleştirmek için kullandığı öneri modellerine de hizmet edebilir.
Yonga setinin donanımıyla ilgili olarak Meta, sistemin 72’ye kadar hızlandırıcıyı barındırabilen raf tabanlı bir tasarıma sahip olduğunu, üç kasanın 12 kart içerdiğini ve her birinin iki hızlandırıcıyı barındırdığını söyledi. İşlemci, 800MHz’lik selefinden çok daha hızlı olan 1,35GHz’de çalışıyor. Ayrıca 90W’lık daha yüksek bir çıkışta çalışabilir. Hızlandırıcılar ile ana bilgisayar arasındaki yapı da PCIe Gen5’e yükseltildi.
Yazılım yığını, şirketin büyük iyileştirmeler yaptığı yerdir. Yonga seti, PyTorch 2.0 ve ilgili özelliklerle tamamen entegre olacak şekilde tasarlanmıştır. Şirket, “MTIA’nın alt düzey derleyicisi ön uçtan çıktıları alıyor ve yüksek verimli ve cihaza özel kod üretiyor” diye açıkladı.
Şu ana kadar elde edilen sonuçlar, bu MTIA çipinin, Meta ürünlerinin bileşenleri olan hem düşük karmaşıklık (LC) hem de yüksek karmaşıklık (HC) sıralama ve öneri modellerini işleyebildiğini gösteriyor. Bu modeller arasında, model boyutunda ve giriş örneği başına işlem miktarında ~10x-100x fark olabilir. Tüm yığını kontrol ettiğimiz için, piyasada satılan GPU’larla karşılaştırıldığında daha yüksek verimlilik elde edebiliyoruz. Bu kazanımların farkına varmak sürekli bir çabadır ve MTIA çiplerini sistemlerimizde oluşturup dağıtırken watt başına performansı artırmaya devam ediyoruz.
Yapay zekanın yükselişiyle birlikte birçok teknoloji şirketi artık kendi özel ihtiyaçlarını karşılayabilecek özelleştirilmiş yapay zeka yonga setleri üretmeye odaklanıyor. Bu işlemciler, sunucular üzerinde muazzam bilgi işlem gücü sunarak, genel yapay zeka sohbet robotları ve belirli görevler için yapay zeka araçları gibi ürünleri getirmelerine olanak tanıyor.
