Dünyanın en büyük sunucu üreticilerinden biri olan Dell, Nvidia’nın Blackwell kod adlı yeni AI GPU’ları hakkındaki bilgileri açıkladı. Görünüşe göre bu işlemciler 1000W’a kadar güç tüketecek ve bu da Dell’in bu GPU’ları soğutmak için mühendislik uzmanlığını kullanmasını gerektirecek. Dell’in yorumları, Nvidia’nın yakında çıkacak hesaplama GPU’larının bazı mimari özelliklerine işaret ediyor olabilir.
Dell’in mali işler müdürü Yvonne McGill, “Açıkçası, H200’de olup bitenler ve performans artışı konusunda heyecan duyduğumuz değişikliklere dair herhangi bir bakış açısı” dedi. “B100 ve B200’de olup bitenler konusunda heyecanlıyız ve mühendislik güvenini ayırt etmek için aslında başka bir fırsat olduğunu düşünüyoruz. Termal taraftaki karakterizasyonumuz, enerji yoğunluğuna ulaşmak için doğrudan sıvı soğutmaya gerçekten ihtiyacınız yok. GPU başına 1000 watt.”
Nvidia’nın Blackwell mimarisiyle ilgili planlarından tam olarak haberdar olmadığımız için, yalnızca ısı dağıtımı hakkındaki genel bilgilere başvurabiliriz; bu da termal dağıtımın tipik olarak çip kalıp alanının milimetre karesi başına 1W civarında olduğunu söylüyor.
Çip üretimi açısından ilginç olan nokta burasıdır: Nvidia’nın H00’ü (özel bir 4nm sınıfı işlem teknolojisi üzerine inşa edilmiştir), HBM belleğin gücü dahil olmasına rağmen zaten 700W civarında güç tüketir ve çip kalıbı 814^2’dir. büyük. Bu kalıp, TSMC’nin özel performansı geliştirilmiş 4nm sınıfı proses teknolojisi üzerine inşa edilmiştir. Nvidia’nın yeni nesil GPU’su muhtemelen başka bir performans artırılmış işlem teknolojisi üzerine inşa edilecek ve bunun 3nm sınıfı bir işlem teknolojisi ile inşa edileceğini yalnızca tahmin edebiliriz.
McGill, Nvidia’nın bir sonraki yapay zeka ve HPC GPU’suna atıfta bulunarak “Bu, gelecek yıl B200’de gerçekleşecek” dedi. “Mühendisliğimizi, ne kadar hızlı hareket edebildiğimizi ve sıvı soğutmanın geniş ölçekte performans göstermesini sağlamak için uzmanlığımızı ortaya koymak üzere sektör lideri olarak yaptığımız çalışmaları, akışkan kimyası ve performansla ilgili konularda gerçekten sergileme fırsatımız var. ara bağlantı çalışması, yaptığımız telemetri, yaptığımız güç yönetimi işi, bu inanılmaz hesaplama kapasitesinden veya yoğunluğundan veya piyasada var olacak kapasiteden yararlanmak için bunları pazara geniş ölçekte sunmaya gerçekten hazırlıklı olmamızı sağlıyor. pazar yeri.”
Yüksek performanslı yapay zeka ve HPC uygulamaları söz konusu olduğunda, FLOPS cinsinden ölçülen performansı ve bu FLOPS’ları elde etmek ve soğutmak için gereken gücü dikkate almamız gerekir. Yazılım geliştiriciler için önemli olan bu FLOPS’un nasıl verimli bir şekilde kullanılacağıdır. Donanım geliştiricileri için önemli olan bu FLOPS’ları üreten işlemcilerin nasıl soğutulacağıdır. Burası Dell’in teknolojilerinin şirketin rakiplerini aşmaya hazır olduğunu söylediği nokta; Dell’in CFO’sunun Nvidia’nın yeni nesil Blackwell GPU’ları hakkında konuşmasının nedeni de bu.
