Samsung, yerleşik bellekte işleme (PIM) yongalarına sahip GPU’ları kullanarak dünyanın ilk büyük ölçekli bilgi işlem sistemini kurdu. 96 AMD Instinct MI100 GPU’ya yüklenen bu bellek modülleri, yapay zeka eğitim performansını 2,5 kat artırdı. Business Korea tarafından hazırlanan rapor.
PIM, CPU’lar ve GPU’lar gibi işlemciler tarafından yürütülen hesaplama açısından karmaşık iş akışlarını hızlandırabilen yeni nesil bir bilgisayar belleğidir. Adından da anlaşılacağı gibi, her bir bellek modülü kendi başına veri işleyebilir ve bellek ile işlemci arasında seyahat etmek için gereken veri miktarını azaltır.
Samsung, ilk olarak Ekim ayında PIM ile değiştirilmiş GPU’ları tanıttı, ancak yakın zamanda 96 PIM ile değiştirilmiş GPU’yu bir kümede birleştirdi. Normal video belleğiyle karşılaştırıldığında, bu değiştirilmiş MI100 yongaları yalnızca 2,5 kat daha iyi performans göstermekle kalmadı, aynı zamanda güç tüketimini 2,67 kat azaltarak GPU’ların yapay zeka algoritmalarını çalıştırma verimliliğini önemli ölçüde artırdı.
Samsung bir süredir PIM geliştiriyor. Şirket, 2021’de DDR4, LPDDR5X, GDDR6 ve HBM2 dahil olmak üzere birkaç farklı bellek türünü içeren birkaç uygulamanın tanıtımını yaptı. LPDDR5 formunda Samsung, Meta AI iş yükü içeren bir test programında güç tüketiminde %42,6 azalma ve gecikmede %70 azalma ile performansta 1,8 kat artış gördü. Daha da etkileyici olan, bu sonuçların ana kartta veya CPU’da herhangi bir değişiklik yapılmayan standart bir sunucu sisteminden alınmasıydı (tüm değişen, PIM özellikli LPDDR5 DIMM’lere geçişti).
PIM yongaları geliştiren tek şirket Samsung değil — SK hynix bu yılın başlarında kendi PIM modüllerini piyasaya sürdü. SK hynix’in ön testine göre, GDDR6-AiM (Bellekteki Hızlandırıcı) uygulaması yapay zeka işlemeyi 16 kat hızlandırdı ve güç tüketimini %80 azalttı. Bu, Samsung’un değiştirilmiş MI100’lerinden çok daha hızlı, ancak SK hynix’in test için ne kullandığını bilmiyoruz, bu yüzden doğrudan bir karşılaştırma değil.
Ne olursa olsun, PIM yapay zeka ile hızlandırılmış iş akışlarını hızlandırmak için güçlü bir çözüm gibi görünüyor. Samsung Electronics İleri Teknoloji Enstitüsü Başkan Yardımcısı ve Yapay Zeka Araştırma Merkezi başkanı Choi Chang-kyu, “Yapay zeka araştırma merkezinin başkanı olarak, Samsung’u yapay zekayı diğer tüm şirketlerden daha iyi kullanan bir yarı iletken şirketi yapmak istiyorum.” İş Kore’ye söyledi.