Üç büyük teknoloji ve yapay zeka şirketi, kol, Intelve NVIDIA yepyeni FP8 veya 8-Bit Floating Point standardını standartlaştırmak için el ele verdik. Şirketler yeni bir açıklama yayınladı. Beyaz kağıt hem yapay zeka (AI) çıkarımı hem de eğitim için çalışabilen standart bir değiştirilebilir düzenleme sağlamak için E5M2 ve E4M3 varyantlarıyla FP8 olarak adlandırılan 8 bitlik kayan nokta belirtimi kavramını ve karşılık gelen varyasyonları açıklar.

NVIDIA, ARM ve Intel, Gelecekteki Yapay Zeka Çabaları İçin FP8 “8-Bit Kayan Nokta”ya Göz Attı

Teoride, bu üç teknoloji devi arasındaki bu yeni sektörler arası spesifikasyon uyumu, AI modellerinin donanım platformlarında çalışmasına ve çalışmasına izin vererek AI yazılımının gelişimini hızlandıracak.

Yapay zeka inovasyonu, teknolojinin ilerleyebilmesi için yeterli hesaplama çıktısı üretmek için hem yazılım hem de donanım genelinde bir zorunluluk haline geldi. AI hesaplamaları için gereksinimler son birkaç yılda arttı, ancak önceki yıla göre daha fazla. Hesaplama boşluğunu ele almada oldukça önem kazanan böyle bir AI araştırması alanı, derin öğrenmede sayısal kesinlik gereksinimlerinin azaltılması, hem belleğin hem de hesaplama verimliliğinin iyileştirilmesidir.

Görüntü kaynağı: NVIDIA, Arm ve Intel aracılığıyla “Derin Öğrenme İçin FP8 Formatları”.

Intel, işlemcileri, grafik kartlarını ve çok sayıda AI hızlandırıcıyı kapsayan yol haritası boyunca AI formatının spesifikasyonunu desteklemeyi amaçlıyor. Şirket, bir hızlandırıcı üzerinde çalışıyor, Habana Gaudi derin öğrenme hızlandırıcısı. Kesinliği azaltılmış yöntemlerin vaadi, bilgi işlem verimliliğini artırmaya odaklanan derin öğrenme sinir ağlarında doğal gürültüye dayanıklı özelliklerin ortaya çıkarılmasına olanak tanır.

Görüntü kaynağı: NVIDIA, Arm ve Intel aracılığıyla “Derin Öğrenme İçin FP8 Formatları”.

Yeni FP8 spesifikasyonu, yazılım ve donanım arasında rahat bir seviye ile mevcut IEEE 754 kayan nokta biçimlerinden sapmaları azaltacak, mevcut AI uygulamalarından yararlanacak, benimsemeyi hızlandıracak ve geliştirici üretkenliğini artıracaktır.

dil-model-ai-eğitim-1
dil-model-ai-çıkarım-1

Makale, Intel, Arm ve NVIDIA arasında IEEE standardizasyonu üzerine inşa edilmiş herhangi bir algoritma, kavram veya sözleşmeden yararlanma ilkesini finanse edecektir. Tüm şirketler arasında daha tutarlı bir standarda sahip olmak, sektördeki mevcut sözleşmeleri sürdürürken AI inovasyonunun geleceği için en önemli serbestliği sağlayacaktır.

Haber kaynakları: kol, FP8 spesifikasyonu



genel-17