Michigan Üniversitesi merkezli bir teknoloji start-up’ı olan MemryX, 149 dolarlık bir kampanya başlattı. M.2 modülü [PDF] Kompakt bilgi işlem sistemleri için verimli yapay zeka işleme yetenekleri sağlamak üzere tasarlanmıştır. Modül, güç verimliliği ve kompakt tasarımın kritik olduğu uç bilişim uygulamalarını hedefliyor.
Dört MemryX MX3 AI hızlandırıcı yongasının standart bir M.2 2280 form faktörüne paketlenmesi, modülün PCIe Gen 3 M.2 yuvasıyla donatılmış sistemlere kolayca entegre edilmesini sağlar. Her MX3 yongasının 6 TOPS (Saniyede Tera İşlemi) sağladığı ve yalnızca 6 ila 8 watt güç tüketirken toplamda 24 TOPS’a kadar bilgi işlem gücü sunduğu söyleniyor. Ayrıca 4 bit, 8 bit, 16 bit ağırlık ve BFloat16 dahil olmak üzere bir dizi veri formatını da destekler. Özellikle modül, termal performansı yönetmek için dahili bir pasif soğutucuya güvenerek aktif soğutma olmadan çalışır.
Phoronix MemryX MX3 M.2 modülünü test ederek performansını ve yapay zeka hızlandırıcı olarak kullanılabilirliğini değerlendirdi. Ubuntu 24.04 LTS çalıştıran M.2 PCIe Gen 3 yuvasına sahip bir sisteme kurulan modülün, MemryX’in açık kaynaklı sürücüleri ve geliştirici araçları sayesinde entegrasyonunun kolay olduğu kanıtlandı. Modülün dört MemryX MX3 yongasından gelen 24 TOPS performansının, özellikle 8 bit ağırlıklar için optimize edilmiş olanlar olmak üzere çeşitli çıkarım iş yükleri için yeterli olduğu söyleniyor.
Resim 1 ile ilgili 3
İncelemede ayrıca modülün güçlü yazılım uyumluluğu, TensorFlow ve ONNX gibi çerçeveleri desteklemesi ve küçük ve orta ölçekli yapay zeka modellerini çalıştırmadaki verimliliği de vurgulandı. Her MX3 yongası 10,5 milyona kadar 8 bitlik parametreyi destekler ve modülün dört yongası bir araya gelerek toplam 42 milyona kadar parametreyi yönetir. Bu sınırlama, yerleşik DRAM’ın bulunmamasından kaynaklanmaktadır. MemryX, 2025’te daha fazla MX3 AI yongası içeren yeni bir PCIe kartıyla bu sorunu çözmeyi planlıyor.
MX3 M.2 modülü 149 USD fiyatla satışa sunuluyor ve bu da onu uç cihazlara yapay zeka işleme yetenekleri eklemek isteyen geliştiriciler ve kuruluşlar için uygun fiyatlı bir seçenek haline getiriyor. MemryX ayrıca modülün, MX3’ün çeşitli gerçek dünya uygulamalarında performansını göstermeyi ve çok yönlülüğünü daha da vurgulamayı planladığı Las Vegas’ta düzenlenecek olan 2025 Tüketici Elektroniği Fuarı’nda (CES) sergileneceğini duyurdu.
