NVIDIA’nın son birkaç yılda hale geldiği AI Juggernaut’u inkar edilemez, GPU’ları yalnızca HPC için değil, AI ve Derin Öğrenme ekosistemleri dahil veri merkezleri için de tercih edilen seçenek haline geldi. Yakın zamanda NVIDIA, insanlar tarafından oluşturulanlardan çok daha üstün olan GPU’lar tasarlamak ve geliştirmek için yapay zekadan yararlandığını duyurdu ve görünüşe göre çevre dostu ekibin amiral gemisi Hopper GPU’su, tamamen tarafından yapılan yaklaşık 13.000 devre örneğini içeren bu ifadenin bir kanıtı gibi görünüyor. SAHİP OLMAK.
NVIDIA’nın Dünyanın En Hızlı Yapay Zeka Yongası olan Hopper GPU’su, Yapay Zekanın Yardımıyla Oluşturuldu – Yaklaşık 13.000 Yapay Zeka Tasarımlı Devreye Sahiptir
NVIDIA’nın Geliştirici web sayfasında yayınlanan bir blogda şirket, faydaları ve kendisinin bugüne kadarki en büyük GPU’su Hopper H100’ü tasarlamak için AI yeteneklerinden nasıl yararlandığını yineliyor. NVIDIA GPU’lar çoğunlukla son teknoloji EDA (Elektronik Tasarım Otomasyonu) araçları kullanılarak tasarlanmıştır, ancak PrefixRL metodolojisini kullanan AI’nın yardımıyla, Derin Güçlendirme Öğrenimi kullanan Paralel Önek Devrelerinin optimizasyonu ile şirket daha küçük, daha hızlı ve daha iyi performans sunarken güç açısından daha verimli yongalar.
Aritmetik devreler bir zamanlar insan uzmanlarının zanaatıydı ve şimdi NVIDIA GPU’larda AI tarafından tasarlanıyor. H100 yongaları yaklaşık 13.000 AI tasarım devresine sahiptir! Bu nasıl mümkün olabilir? Blog https://t.co/PpKrAmV8vc + iş parçacığı ?? pic.twitter.com/3RrZl2muJ3
– Rajarshi Roy (@rjrshr) 8 Temmuz 2022
Bilgisayar çiplerindeki aritmetik devreler, bir mantık kapıları ağı (NAND, NOR ve XOR gibi) ve kablolar kullanılarak oluşturulur. Arzu edilen devre aşağıdaki özelliklere sahip olmalıdır:
- Küçük: Daha düşük bir alan, böylece bir çipe daha fazla devre sığabilir.
- Hızlı: Çipin performansını artırmak için daha düşük bir gecikme.
- Daha az güç tüketir: Çipin daha düşük güç tüketimi.
NVIDIA, bu metodolojiyi, hızlı ve işlevsel olarak eşdeğer olan EDA araçlarına kıyasla %25 alan azalması sunan yaklaşık 13.000 AI destekli devre tasarlamak için kullandı. Ancak PrefixRL’nin çok hesaplama gerektiren bir görev olduğu ve her bir GPU’nun fiziksel simülasyonu için 256 CPU ve 32.000’den fazla GPU saatinden söz ediliyor. Bu darboğazı ortadan kaldırmak için NVIDIA, bu tür endüstriyel güçlendirme öğrenimi için NVIDIA donanımının özel avantajlarından yararlanan kurum içi dağıtılmış bir pekiştirmeli öğrenme platformu olan Raptor’u geliştirdi.
Raptor, iş planlama, özel ağ oluşturma ve GPU’yu tanıyan veri yapıları gibi ölçeklenebilirliği ve eğitim hızını artıran çeşitli özelliklere sahiptir. PrefixRL bağlamında Raptor, işlerin CPU’lar, GPU’lar ve Spot örneklerinin bir karışımı arasında dağıtılmasını mümkün kılar.
Bu pekiştirmeli öğrenme uygulamasında ağ oluşturma çeşitlidir ve aşağıdakilerden yararlanır.
- Raptor’un model parametrelerini doğrudan öğrenci GPU’dan bir çıkarım GPU’suna aktarmak için noktadan noktaya aktarım için NCCL arasında geçiş yapma yeteneği.
- Ödüller veya istatistikler gibi eşzamansız ve daha küçük mesajlar için Redis.
- Deneyim verilerinin yüklenmesi gibi yüksek hacimli ve düşük gecikme süreli istekleri işlemek için JIT tarafından derlenmiş bir RPC.
NVIDIA, yapay zekanın gerçek dünya devre tasarımı sorununa uygulanmasının gelecekte daha iyi GPU tasarımlarına yol açabileceği sonucuna varıyor. Çay tam metin burada yayınlandı ve ayrıca ziyaret edebilirsiniz Daha fazla bilgi için geliştirici blogu burada.