AMD duyurdu ROCm sürüm 6.3ROCm ekosistemine birçok yeni güncelleme ekleyen. Açık kaynaklı sürücü yığınının en son yinelemesi, SGLang, FlashAttention-2 ve Fortran Derleyicisi dahil olmak üzere çeşitli eklemeler içerir.
SGLang, ROCm 6.3’te, AMD’nin kendi kendine üretilen Instinct GPU’larındaki “son teknoloji” üretken yapay zeka modellerini optimize ederek gecikmeyi, verimi ve kaynak kullanımını iyileştirdiği iddia edilen yeni bir çalışma zamanıdır. SGLang’ın büyük dil modeli çıkarımında 6 kata kadar daha yüksek performans elde ettiği ve yapay zekayı, çok modlu iş akışlarını ve ölçeklenebilir bulut arka uçlarını hızlandırmak için Python kullanan önceden yapılandırılmış Docker kapsayıcılarıyla birlikte geldiği iddia ediliyor.
FlashAttention-2, Transformer AI modelleriyle bellek kullanımını ve bilgi işlem taleplerini azaltan FlashAttention’ın bir sonraki sürümüdür. FlashAttention-2’nin ileri ve geri geçişler için birinci sürüme göre 3 kata kadar hızlanma iyileştirmesi içerdiği ve yapay zeka modeli eğitim süresini hızlandırdığı iddia ediliyor.
AMD, ROCm 6.3’e bir Fortran derleyicisi ekleyerek kullanıcıların eski Fortran tabanlı uygulamaları AMD’nin modern Instinct GPU’larında çalıştırmasına olanak tanıyor. Derleyici, bilimsel iş yükleri için OpenMP aracılığıyla doğrudan GPU boşaltma, geliştiricilerin mevcut eski uygulamalar için Fortran kodu yazmaya devam etmesine olanak tanıyan geriye dönük uyumluluk ve HIP çekirdekleri ve ROCm kitaplıklarıyla basitleştirilmiş entegrasyon özelliklerine sahiptir.
Çoklu NodeFFT desteği, ROCm 6.3’te yüksek performanslı dağıtılmış FFT hesaplamalarına olanak tanır. Bu özelliğin çok düğümlü ölçeklendirmeyi basitleştirdiği, geliştiricilerin karmaşıklığını azalttığı ve büyük veri kümeleri genelinde kesintisiz ölçeklenebilirlik sağladığı iddia ediliyor.
ROCm 6.3, rocDecode, rocJPEG ve rocAL bilgisayarlı görüntü kitaplıklarında geliştirmeler sunarak AV1 codec bileşeni, GPU hızlandırmalı JPEG kod çözme ve daha iyi ses artırma desteği sağlar.
ROCm, AMD Instinct GPU’larda çalışmak üzere tasarlanmış açık kaynaklı bir yazılım ve sürücü yığınıdır. Platform, yüksek performanslı bilgi işlem (HPC), AI/Makine Öğrenimi, iletişim ve daha fazlası gibi kurumsal GPU ile hızlandırılmış uygulamaları etkinleştiren veya geliştiren özellikler sağlamayı amaçlamaktadır.
