AMD yaklaşık bir yıl önce AI ve HPC için Instinct MI300X hızlandırıcılarını piyasaya sürdüğünde, Amazon Web Services (AWS) bunları bulutta dağıtmakla ilgilendiğini ifade etti. Ancak Amazon’un bildirdiğine göre İşletme İçeriğiGüçlü talep olmaması nedeniyle şirket bunu hâlâ yapmadı.
Bir Amazon şirketi olan Annapurna Labs Ürün ve Müşteri Mühendisliği Direktörü Gadi Hutt, Business Insider’a “Müşteri taleplerini takip ediyoruz” dedi. “Müşterilerin bunlara ihtiyaç olduğuna dair güçlü göstergeleri varsa, o zaman dağıtım yapmamak için hiçbir neden yok.”
En azından Hutt’a göre AMD’nin Instinct MI300X hızlandırıcılarının AWS’de konuşlandırılmasını haklı çıkaracak kadar ilgi görülmedi. AMD’nin Instinct MI300X’i Nvidia’nın H100’ünden daha ucuz olsa da yazılımının Nvidia’nın CUDA’sı kadar sağlam olmaması birçok geliştiriciyi korkutuyor. AMD’nin donanım teklifleri geliştikçe (örn. Instinct MI325X) yazılımı da gelişmelidir.
Annapurna tarafından geliştirilen Trainium, AWS’nin veri merkezlerinde AMD ve Nvidia’nınkilerle rekabet ettiğinden, Hutt bir dereceye kadar ilgilenen bir taraf olarak görülebilir. Yine de kayıtlara geçtiğini varsayarsak AWS’nin tutumu budur.
Trainium’dan bahsetmişken, şirket içi tasarlanan Trainium ve Trainium2 ile AWS’nin AMD veya Nvidia’ya prim ödemesi gerekmiyor; bu nedenle Trn1 ve Trn2 bulut sunucularını Nvidia’nın H100 GPU’ları tarafından desteklenenlere kıyasla çok rekabetçi fiyatlarla sunabiliyor. . Bu, Nvidia dışı üçüncü taraf çözümlere olan ilginin düşük olmasının bir başka nedeni olabilir.
Nvidia’dan bahsetmişken AWS, re:Invent konferansında AI tekliflerini Nvidia’nın AI ve HPC için yakında çıkacak Blackwell GPU’larıyla güçlendirmeye hazırlandığını duyurdu. re:Invent konferansı sırasında AWS, Blackwell GPU’larla donatılmış P6 sunucularını tanıttı ve bu, bu makinelerin yüksek talep göreceği beklentisini yansıtıyordu.
AMD’nin Instinct MI300X’ini bulutta sunmamasına rağmen AWS, şirketle yakın iş birliğine devam ediyor ve AMD’nin EPYC işlemcilerini temel alan çok sayıda örnek sunuyor. Çekirdek sayıları ve bellek alt sistemleri göz önüne alındığında bu işlemciler, bilgi işlem ve bellek açısından yoğun örnekler açısından Intel Xeon rakiplerine göre çok büyük avantajlar sunuyor.
