AMD resmi olarak başlatıldı Radeon PRO W7900 Çift Yuvalı GPU’nun yanı sıra ek AI yetenekleri ve desteğine sahip yeni ROCm 6.1.3 Open Compute yazılım paketi.
AMD’nin ROCm 6.1.3 Yazılım Yığını Çoklu GPU Desteği, TensorFlow AI Çerçeve Desteği ve WSL 2 Desteği Ekliyor, Radeon PRO W7900 Çift Yuvalı GPU 3499 Dolara Raflara Çıkıyor
Computex 2024’te duyurusu yapılan AMD, Radeon PRO W7900 Çift Yuvalı GPU’sunu perakende segmentinde resmi olarak piyasaya sürüyor. Fiyatı 3499 ABD Doları olan Radeon PRO W7900’ün dolar başına lider performans ve geniş 48 GB bellek havuzu sunarak LLM’ler (Büyük Dil Modelleri) gibi yapay zeka odaklı iş yüklerinde daha hızlı performans sağladığı söyleniyor.
Doğrudan spesifikasyonlara gelecek olursak, AMD Radeon PRO W7900 grafik kartı, çift yuvalı bir tasarımla gelir ve bu, onu bu yapay zekaya hazır devlerden dörde kadar barındırabilen iş istasyonu kurulumları için mükemmel bir çözüm haline getirir. Dahili olarak grafik kartı, 96 işlem birimi içinde paketlenmiş 6144 çekirdeğe sahip Navi 31 XTX GPU çekirdeğine sahiptir. GPU, 384 bit genişliğinde bir veri yolu ile donatılmıştır ve 864 GB/s’ye kadar bant genişliği sağlayan 48 GB GDDR6 bellekle yüklü olarak gelir. Kart aynı zamanda işleri bir adım öteye taşımak için 96 MB Infinity Cache’i de barındırıyor ve bu üst seviye GPU’ya daha da fazla bant genişliği sağlıyor.
Grafik kartının öne çıkan bazı önemli özellikleri şunlardır:
- Etkileyici Performans – 96 hesaplama birimi, 192 yapay zeka ve 96 ışın hızlandırıcıyla, en yüksek tek hassasiyette (FP32) olağanüstü 61,32 TFLOP ve en yüksek yarı hassasiyette 122,64 TFLOPS (FP16) performansı sunar.
- Dolar Başına Liderlik Performansı – 70B parametre modelini tek bir GPU çerçeve arabelleğine sığdırma yeteneği ile Llama 3 70B Q4’te rakip teklife kıyasla %38’e kadar daha iyi dolar başına performans sunar.
- Olağanüstü Bellek – Veri bütünlüğünü sağlamak için hata düzeltme kodu (ECC) teknolojisiyle donatılmış 48 GB bellekle kesintisiz çoklu görev gerçekleştirmeye ve karmaşık projelerin zahmetsizce yönetilmesine olanak tanır.
- Masaüstünde Yapay Zeka – Dört adede kadar AMD Radeon PRO W7900 Çift Yuvalı grafik kartıyla donatılmış yerel bir bilgisayar veya iş istasyonu, her türlü BT altyapısına güçlü yapay zeka performansı katar, kritik görev projeleri için idealdir ve hassas verilerin şirket içinde tutulmasına yardımcı olabilir.
AMD, Radeon PRO W7900 Çift Yuvalı GPU lansmanının yanı sıra, ROCm 6.1.3 halka açık sürüm için açık bilgi işlem yazılım paketi. Yeni ROCm yazılımı, Radeon ve Radeon PRO serisi altındaki tüketici sınıfı grafik kartları için gelişmiş erişilebilirlik ve genişletilmiş destek sağlıyor. Sürümün öne çıkan özellikleri arasında şunlar yer alıyor:
- Çoklu hizmet veren, çok kullanıcılı çözümler için ölçeklenebilir yapay zeka masaüstü bilgisayarlar oluşturmaya olanak tanıyan çoklu GPU desteği.
- Linux için Windows Alt Sistemi için beta düzeyinde destek, bu çözümlerin Windows işletim sistemi tabanlı bir sistemde ROCm ile çalışmasına olanak tanır.
- TensorFlow Çerçeve desteği, yapay zeka geliştirme için daha fazla seçenek sunar.
AMD, ROCm 6.1.3’ün dört adede kadar nitelikli Radeon RX ve Radeon PRO GPU’yu (Radeon RX 7900 XTX, 7900 XT, 7900 GRE, Radeon PRO W7900, PRO W7900 DS, PRO W7800) desteklediğini belirtiyor. Bu GPU’lardan herhangi birinin dördünün birleşimi artık doğrudan iş istasyonlarına takılabilir ve müşteriler genişletilmiş performans, ölçeklenebilirlik ve erişilebilirlik özelliklerinden yararlanabilir. Her bir GPU, bağımsız olarak çıkarım hesaplamak ve yanıtın çıktısını almak üzere çalışacak şekilde yapılabilir. ROCm 6.1.3 yazılım yığını ayrıca BETA’da WSL 2 olarak da bilinen Linux için Windows Alt Sistemi desteğini de ekler.
Masaüstünüz için daha fazla makine öğrenimi performansı
- Günümüzün modellerinin, yapay zeka için tasarlanmamış standart donanım ve yazılımların yeteneklerini kolaylıkla aşması nedeniyle, makine öğrenimi mühendisleri, makine öğrenimi destekli uygulamalarını geliştirmek ve eğitmek için uygun maliyetli çözümler arıyor. 24 GB veya 48 GB gibi oldukça büyük GPU bellek boyutlarının mevcut olması nedeniyle, en son teknolojiye sahip AMD Radeon 7000 serisi GPU ile donatılmış yerel bir bilgisayarın veya iş istasyonunun kullanılması, bu genişleyen makine öğrenimi iş akışı zorluklarının üstesinden gelmek için sağlam/güçlü ancak ekonomik bir seçenek sunar.
- En son teknolojiye sahip AMD Radeon 7000 serisi GPU’lar, RDNA 3 GPU mimarisi üzerine inşa edilmiştir.
- Önceki nesle kıyasla Bilgi İşlem Birimi (CU) başına 2 kattan fazla daha yüksek yapay zeka performansı sunar
- artık 192’ye kadar AI hızlandırıcıyla birlikte geliyor
- Büyük ML modellerini desteklemek için 24 GB veya 48 GB’a kadar GPU belleği sunar
GPU başına 48 GB’a kadar bellek havuzuyla, yapay zeka ihtiyaçlarınız için erişilebilir ve kullanılabilecek 192 GB’a kadar bellek kapasitesinden oluşan birleşik bir havuza sahip olabilirsiniz.
PyTorch ve ONNX ilk tercih olmaya devam ederken, ROCm 6.1.3 ayrıca Tensorflow çerçevesi için yeterlilik ekleyerek kullanıcılara yapay zeka geliştirme konusunda ek bir seçenek sunuyor.
AMD Radeon Pro W7000 GPU’lar:
| Grafik Kartı Adı | Radeon Pro W7900 | Radeon Pro W7900DS | Radeon Pro W7800 | Radeon Pro W7700 | Radeon ProW7600 | Radeon Pro W7500 |
|---|---|---|---|---|---|---|
| GPU | Navi31 | Navi31 | Navi31 | Navi 32 | Navi 33 | Navi 33 |
| Süreç Düğümü | 5nm+6nm | 5nm+6nm | 5nm+6nm | 5nm+6nm | 6nm | 6nm |
| Bilgisayar Üniteleri | 96 ABD Doları | 96 ABD Doları | 70 PB | 64 ABD Doları | 32 ABD Doları | 28 ABD Doları |
| Akış İşlemcileri | 6144 | 6144 | 4480 | 3072 | 2048 | 1792 |
| Saat Hızı (En Yüksek) | ~2.5GHz | ~2.5GHz | ~2.5GHz | ~2.3GHz | ~2.5GHz | ~1.7GHz |
| VRAM | 48 GB GDDR6 | 48 GB GDDR6 | 32 GB GDDR6 | 16GB GDDR6 | 8 GB GDDR6 | 8 GB GDDR6 |
| Bellek Bant Genişliği | 864 GB/sn | 864 GB/sn | 576 GB/sn | 576 GB/sn | 288 GB/sn | 176 GB/sn |
| Bellek Veriyolu | 384 bit | 384 bit | 256 bit | 256 bit | 128 bit | 128 bit |
| İşlem Hızı (FP32) | 61.3 TFLOP | 61.3 TFLOP | 45.2 TFLOP | 28.3 TFLOP’lar | 20 TFLOP | 12 TFLOP |
| TDP | 295W | 295W | 260W | 190W | 127W | 69W |
| Fiyat | 3999 ABD Doları | 3499 ABD Doları | 2499 ABD Doları | 999 ABD Doları | 599 ABD Doları | 429 ABD Doları |
| Öğle yemeği | 2023 | 2024 | 2023 | 2023 | 2023 | 2023 |