Intel işlemcilerdeki NPU’lar nihayet kullanışlı olacak mı? Şirket, NPU Hızlandırma Kütüphanesini açık kaynaklı hale getirdi

Byteknomers

Mar 2, 2024 #Açık, #getirdi, #Hale, #hızlandırma, #Intel, #işlemcilerdeki, #kaynaklı, #kullanışlı, #Kütüphanesini, #mı, #nihayet, #NPU, #NPUlar, #olacak, #Şirket, #yapay zeka

Intel, kompakt yapay zeka modellerinin doğrudan Meteor Lake işlemcilerdeki NPU’larda çalıştırılmasına olanak tanıyan NPU Hızlandırma Kitaplığını açık kaynaklı hale getirdi.

Kitaplık Python ile yazılmıştır ve geliştiricilerin ürünlerini en yeni Intel işlemcilerin NPU’larında çalıştırarak geliştirmelerine yardımcı olmak için tasarlanmıştır. Kütüphane, herhangi bir bulut sunucusuna ihtiyaç duymadan Gemma-2b veya TinyLlama gibi kompakt dil modellerini doğrudan NPU üzerinde çalıştırmanıza olanak tanır. Aslında tam da bu yüzden işlemcilerde NPU donanım birimlerine ihtiyaç duyuluyor ve şu anda eksik olan da bu.

Intel işlemcilerdeki NPU'lar nihayet kullanışlı olacak mı? Şirket, NPU Hızlandırma Kütüphanesini açık kaynaklı hale getirdi

NPU ünitelerinin Intel Meteor Lake ve AMD Ryzen 7040/8040 işlemcilerde bulunduğunu hatırlatalım. Şimdilik bu bloklar çoğu kullanıcı için tamamen yararsızdır.

genel-22