Amazon Web Services (AWS), AI bilişiminin baş masasında bir yer edinmeye çalışıyor. Çoğunlukla Nvidia’nın hakim olduğu bir alanda, AWS yakın zamanda kendi AI çiplerini önerdi kritik bir güç eşiğini geçebilir Şirketin altyapı başkan yardımcısı, Trainium3 AI çiplerinin 1.000 watt’tan fazla elektrik çekebileceği konusunda ipucu verirken, bu durumun yakında onları Nvidia’nın Blackwell çipleriyle rekabet edebilir hale getireceği belirtiliyor.
Burada bir uyarı eklemek önemli: AWS Altyapı Başkan Yardımcısı Prasad Kalyanaraman, henüz yaklaşan Trainium3 çipi veya hatta selefi Trainium2 için özel olarak güç gereksinimleri belirtmedi. Söylediği şey, 1.000 watt’tan fazla güç kullanan AI çipleri için sıvı soğutmanın gerekli olacağıydı.
Yönetici Fierce Network’e Trainium2’nin sıvı soğutmaya ihtiyaç duymadığını ancak Trainium3’ün ihtiyaç duyacağını söyledi. “Mevcut çip nesli sıvı soğutmaya ihtiyaç duymuyor ancak gelecek nesil sıvı soğutmaya ihtiyaç duyacak. Bir çip 1.000 watt’ın üzerine çıktığında, sıvı soğutmaya ihtiyaç duyarlar,” dedi.
Şu anda, Nvidia’nın en güçlü AI çipi 700W güce ihtiyaç duyuyor, ancak yakında çıkacak olan B200’ün 1.000W’a ihtiyaç duyacağı tahmin ediliyor. AWS, Trainium3’ü 1.000W veya daha fazla güç kullanacak şekilde tasarlarsa, bu onu AI’daki mevcut liderle rekabet etmeye daha da yaklaştırabilir. Elbette, 1.500W sınırını aşamazsa, uzun süre rekabetçi kalamayabilir.
Nvidia henüz yeni Blackwell AI çiplerini piyasaya sürmemiş olsa da, yeni nesil Rubin çipini planlamaya başladı bile. Rubin AI çipi ve Intel’in söylentilere göre AI çipinin 1.500W güç tüketmesi bekleniyor.
Kalyanaraman, AWS’nin veri merkezlerinin çoğunun şu anda hava soğutmaya dayandığını söyledi. Şirket, önceden planlama gerektiren sıvı soğutmaya yönelik nihai ihtiyaca hazırlanıyor. Sıvı soğutma için gerekli olan soğutucu dağıtım ünitelerinin mevcut teslim süreleri bir yıl veya daha uzun olabilir.
Tekrar söylüyorum, AWS Trainium3 AI çiplerinin 1.000 W veya daha fazla güce ihtiyaç duyacağını kesin olarak söylemedi. Başkan Yardımcısı yalnızca bunun böyle olacağını ima ediyor, çıkarımlıyor. AWS veri merkezlerini sıvı soğutmaya dönüştürmeyi planlıyorsa ve Kalyanaraman 1.000 W’tan fazla güç çeken çiplerin sıvı soğutmaya ihtiyaç duyduğunu söylüyorsa, bu AWS’nin yeni nesil AI çipleri için planladığı şeyin güçlü bir göstergesi gibi görünüyor.
Aynı röportajda Kalyanaraman, AWS’nin veri merkezleri için planladığı diğer değişiklikleri özetledi. Örneğin Kalyanaraman, şirketin 51,2 Tbps’ye kadar çıkış hızlarını destekleyen yeni nesil ağ anahtarları kurmayı planladığını söyledi. Mevcut anahtarları çoğunlukla 12,8 Tbps’de zirve yapıyor.
Amazon bölümü ayrıca koridorlarından herhangi birinde güç kesintisini önlemek için raf düzenleri planlıyor. Bunu başarmak için AWS’nin, veri merkezlerinin her koridorunun mevcut güçten en iyi şekilde yararlanmasını sağlamak için yapay zeka, bellek, depolama ve genel amaçlı bilgi işlem sunucularının nereye yerleştirileceğini belirlemesi gerekiyor.
Peki, AWS 1.000 watt’tan fazla güç gerektiren AI çipleri piyasaya sürecek mi? Açıklamaları birbiriyle bağlam içinde ele alırsanız ve yeni nesil AI hızlandırıcıları için mevcut endüstri eğilimlerini hesaba katarsak kesinlikle öyle geliyor, ancak AWS’de biri açıkça söyleyene kadar bu kesin olarak doğrulanamaz.