Micron, Pazartesi günü 12-Hi HBM3E bellek yığınlarını resmen duyurdu. Yeni ürünler 36 GB kapasiteye sahip ve Nvidia’nın H200 ve B100/B200 GPU’ları gibi AI ve HPC iş yükleri için öncü işlemcileri hedefliyor.
Micron’un 12-Hi HBM3E bellek yığınları, 24 GB’lık önceki 8-Hi sürümlerinden %50 daha fazla olan 36 GB kapasiteye sahiptir. Bu artırılmış kapasite, veri merkezlerinin tek bir işlemcide 70 milyara kadar parametreye sahip Llama 2 gibi daha büyük AI modellerini çalıştırmasına olanak tanır. Bu yetenek, sık sık CPU boşaltma ihtiyacını ortadan kaldırır ve GPU’lar arasındaki iletişimdeki gecikmeleri azaltarak veri işlemeyi hızlandırır.
Performans açısından, Micron’un 12-Hi HBM3E yığınları, 9,2 Gb/s’yi aşan veri aktarım hızlarıyla 1,2 TB/s’nin üzerinde bellek bant genişliği sunuyor. Şirkete göre, rakiplerinden %50 daha yüksek bellek kapasitesi sunmasına rağmen, Micron’un HBM3E’si 8-Hi HBM3E yığınlarından daha az güç tüketiyor.
Micron’un HBM3E 12-high’ı, müşterilerine daha hızlı pazara sunma süresi ve güvenilirlik sağlamak için tamamen programlanabilir bellekli yerleşik bir kendi kendini test (MBIST) sistemi içerir. Bu teknoloji, sistem düzeyindeki trafiği tam hızda simüle edebilir ve yeni sistemlerin kapsamlı bir şekilde test edilmesine ve daha hızlı doğrulanmasına olanak tanır.
Micron’un HBM3E bellek aygıtları, Nvidia’nın H100 ve H200 gibi yapay zeka işlemcilerini paketlemek için yaygın olarak kullanılan TSMC’nin yonga üzerinde yonga üzerinde alt tabaka (CoWoS) paketleme teknolojisiyle uyumludur.
TSMC’de Ekosistem ve İttifak Yönetimi Bölümü başkanı Dan Kochpatcharin, “TSMC ve Micron uzun vadeli stratejik bir ortaklıktan keyif aldılar” dedi. “OIP ekosisteminin bir parçası olarak, Micron’un HBM3E tabanlı sistemini ve yonga-alt tabaka-alt tabaka (CoWoS) paketleme tasarımını müşterilerimizin AI inovasyonunu desteklemek için yakın bir şekilde çalıştık.”
Micron, yapay zeka ekosistemi genelinde kalifikasyon testleri için önemli endüstri ortaklarına üretime hazır 12-Hi HBM3E üniteleri gönderiyor.
Micron, HBM4 ve HBM4E dahil olmak üzere yeni nesil bellek çözümlerini zaten geliştiriyor. Bu yaklaşan bellek türleri, bellek performansının sınırlarını zorlamaya devam edecek ve Micron’un, Nvidia’nın Blackwell ve Rubin mimarilerine dayalı GPU’ları da dahil olmak üzere AI işlemciler tarafından kullanılan gelişmiş belleğe yönelik artan talepleri karşılamada lider olmaya devam etmesini sağlayacak.
