Tüketici GPU’ları bir sonraki yapay zeka hızlandırıcılarına dönüşüyor gibi görünüyor Tiny firması Altı adet AMD Radeon RX 7900 XT GPU’yu yapay zeka uygulamalarına yönelik tek bir pakette birleştiriyor.
Yapay Zeka GPU Eksikliği, Üreticileri İyi Yapay Zeka Performansı İçin Bir Alternatif Olarak Tüketici GPU’larını Kullanmaya Yönlendirdi; Tiny, Altı adet AMD Radeon RX 7900 XT GPU Yapay Zeka Paketini Ortaya Çıkardı
Son zamanlarda yaşanan AI GPU sıkıntısı nedeniyle, uyguladığınız iş yüklerine bağlı olarak iyi bir AI performansı sundukları için birden fazla kişi alternatif olarak oyun GPU’larına başvurdu. Benzer şekilde, AI ile ilgili bir firma olan Tiny, AI GPU’lardan yoksun tüketiciler için AMD’nin amiral gemisi RDNA 3 GPU’larıyla birlikte makul bir fiyata gelen TinyBox adlı bir paket formüle etti.
Altı AMD Radeon RX 7900 XT, 12U rafa yerleştirildi ve hızdan ödün vermeden kesintisiz veri aktarımı sağlamak için PCIe 4.0 x16 hatları kullanılarak birbirine bağlandı.
TinyBits bu sistemle elde edebileceğiniz performansı açıklamamış olsa da, hesaplamalara dayanarak altı yerleşik GPU’dan yaklaşık 738 TLFOPS FP16 performansı ve 96 GB GDDR6 bellek elde edebilirsiniz. Burada elde ettiğiniz dolar başına performans. TinyBits, RDNA3 amiral gemisi SKU’sunu kullanmanın burada GeForce RTX 4090’a kıyasla daha iyi bir seçim olduğunu, bunun yalnızca AMD’nin verdiği değer nedeniyle olduğunu belirtiyor.
Diğer satıcılar da Grace Hopper Superchip çözümünü 41.000 ABD Doları karşılığında sunan GPTshop’un Yapay Zeka İş İstasyonu gibi özelleştirilmiş Yapay Zeka makineleri de üretiyor.
Diğer özellikler açısından sistem, AMD’nin EPYC 7532 işlemcisinin yanı sıra 128 GB RAM ile birlikte geliyor. Depolama için 5x 1 TB SN850X SSD’ler yerleşiktir ve ağ oluşturma amacıyla boş bir 16x OCP 3.0 yuvası kullanılır. Tiny, Nisan ayında sevkiyata başlayacak olan sistem için 583 ön sipariş aldığından TinyBox sistemiyle dikkat çekti. Üstelik firma, çiplerini bantlama niyetini de açıkladı ancak görünen o ki bu, geleceğe yönelik bir plan.
Tiny’nin yapay zeka odaklı sisteminin fiyatı yaklaşık 10.000 ABD Doları civarındadır; bu da, GPU’ların MSRP’de yakalanması halinde firmaya yaklaşık 6.000 ABD Dolarına mal olacağı göz önüne alındığında makul bir rakamdır ki bu pek olası değildir. Yapay zeka hızlandırıcıları almanın küçük yapay zeka girişimleri için büyük bir sorun olduğu bir pazara doğru ilerledikçe, bu tür seçenekleri tercih etmek mümkün görünüyor. Kesinlikle aynı konfigürasyonda AI hızlandırıcıların eşdeğer performansını sağlayamasalar da işi hallediyorlar.
Haber kaynağı: Minik