PanmneziKAIST startup’ı, PCIe üzerinden CXL protokolünü kullanarak AI GPU’lara harici bellek eklenmesine olanak tanıyan ve bellek kapasitesi engellerini ortadan kaldıran son teknoloji ürünü bir IP’yi tanıttı.
Panmnesia’nın En Yeni CXL Çözümü, Etkili Bir Altyapı Sağlayarak HBM Sınırlamalarını Çözmeyi Hedefliyor
Mevcut yapay zeka hızlandırıcıları, üreticilerin yalnızca sınırlı miktarda HBM’yi sıkıştırabilmeleri nedeniyle yerleşik bellekle sınırlıdır. Büyüyen veri kümeleri ve güç ihtiyacı nedeniyle sektör daha fazla AI GPU toplamaya odaklanıyor ve kapladığı finansal ve üretim kaynakları göz önüne alındığında bu yaklaşım uzun vadede sürdürülebilir değil. Bunun ışığında, Güney Koreli KAIST enstitüsü tarafından desteklenen bir firma olan Panmnesia, GPU’ların DRAM’den ve hatta SSD’lerden gelen bellekten yararlanmasına olanak tanıyan ve yerleşik HBM’den genişleyen bir CXL IP’yi tanıttı.
CXL, bağlantı arasında köprü kurmak için PCIe bağlantılarını kullanarak tüketiciler arasında kitlesel benimsemeyi sağlıyor. Ancak bir sorun var. Geleneksel yapay zeka hızlandırıcıları, doğrudan bellek genişletme için CXL’ye bağlanmak ve onu kullanmak için gerekli alt sistemlerden yoksundur ve UVM (Birleşik Sanal Bellek) gibi çözümler oldukça yavaştır, bu da ilk etapta amacı boşa çıkarır.
Ancak çözüm olarak Panmnesia, GPU’yu bir PCIe veri yolu aracılığıyla harici belleğe bağlayan birden fazla bağlantı noktasına sahip olan ve HDM (Ana Bilgisayar Tarafından Yönetilen Cihaz Belleği) kod çözücünün köprü görevi gören kendi CXL 3.1 uyumlu Root Complex yongasını geliştirdi. bağlantı arasında, bellek tahsisinin ve çevirinin yönetilmesi.
İlginç bir şekilde Panmnesia, çözümlerini (CXL-Opt) Samsung ve Meta tarafından geliştirilen ve “CXL-Proto” olarak etiketledikleri prototiplerle karşılaştırmaya karar verdi. Şaşırtıcı bir şekilde, CXL-Opt önemli ölçüde daha düşük bir gidiş-dönüş gecikme süresi elde ediyor; bu, verilerin GPU’dan belleğe ve geri gidişi için geçen süre. CXL-Opt iki basamaklı bir nanosaniye gecikme süresi gösterirken, CXL-Proto 250ns gecikme süresine sahipti. Bunun dışında CXL-Opt’un yürütme süresi UVM çözümünden çok daha kısadır çünkü UVM’den 3,22 kat daha fazla IPC performans hızına ulaşır.
Panmnesia’nın çözümü, HBM çiplerinin istiflenmesi ile daha verimli bir çözüme doğru ilerleme arasında aracı görevi gördüğü için pazarlarda büyük ilerlemeler kaydedebilir. Şirketin yenilikçi CXL IP’ye sahip ilk şirketlerden biri olduğu göz önüne alındığında, eğer bu ilgi kazanırsa Panmnesia önemli ölçüde fayda sağlayacak.
Haber kaynağı: Panmnezi