Nvidia, büyük miktarda veriyi işleyen veya AI modellerini eğiten veri merkezlerinin enerji kullanımını azaltmak için yeni planını açıkladı: sıvı soğutmalı grafik kartları. Şirket Computex’te duyuruldu A100 bilgi işlem kartının sıvı soğutmalı bir versiyonunu piyasaya sürdüğünü ve hava soğutmalı versiyonundan yüzde 30 daha az güç tükettiğini söylüyor. Nvidia ayrıca bunun sadece bir seferlik olmadığını, yol haritasında zaten daha fazla sıvı soğutmalı sunucu kartı bulunduğunu ve teknolojiyi kapalı alanlarda serin kalması gereken araç içi sistemler gibi diğer uygulamalara getirmenin ipuçlarını veriyor. Elbette Tesla’nın aşırı ısınan çipler için yaptığı son geri çağırma, sıvı soğutmada bile bunun ne kadar zor olabileceğini gösteriyor.
Nvidia’ya göre, karmaşık hesaplamaları gerçekleştirmek için gereken enerjiyi azaltmak büyük bir etki yaratabilir – şirket, veri merkezlerinin dünya elektriğinin yüzde birinden fazlasını kullandığını ve bunun yüzde 40’ının soğutmaya bağlı olduğunu söylüyor. Grafik kartlarının denklemin yalnızca bir parçası olduğunu belirtmeye değer olsa da, bunu neredeyse üçte bir oranında azaltmak büyük bir sorun olacaktır; CPU’lar, depolama ve ağ ekipmanı da güç çeker ve soğutmaya da ihtiyaç duyar. Nvidia’nın iddiası, sıvı soğutma ile GPU hızlandırmalı sistemlerin, AI ve diğer yüksek performanslı görevlerde yalnızca CPU kullanan sunuculardan çok daha verimli olacağı yönünde.
Süper bilgisayarlardan özel oyun bilgisayarlarına ve yüksek performanslı kullanım durumlarında sıvı soğutmanın popüler olmasının bir nedeni var. Bile birkaç telefon: sıvılar ısıyı havadan daha iyi emer, Asetek’e göre, büyük bir su soğutma sistemleri üreticisi. Ve bir kez ılık sıvıya sahip olduğunuzda, tüm binadaki havayı soğutmaya veya tüm ısıyı dışarı atan bir karttaki belirli bileşenlere hava akışını artırmaya çalışmakla karşılaştırıldığında, soğuması için başka bir yere aktarmak nispeten kolaydır.
Enerji verimliliğinin yanı sıra, sıvı soğutmalı kartların hava soğutmalı muadillerine göre başka bir avantajı daha vardır – önemli ölçüde daha az yer kaplarlar, yani aynı miktarda alana daha fazlasını sığdırabilirsiniz.
Nvidia’nın sıvı soğutma yoluyla enerji kullanımını düşürme çabası, birçok şirketin sunucularının kullandığı enerji miktarını düşündüğü bir zamanda geliyor. Veri merkezleri, büyük teknoloji için tek karbon emisyonu ve kirlilik kaynağı olmaktan uzak olsa da, göz ardı edilemeyecek bir yapboz parçası ve eleştirmenler, enerji kullanımını kredilerle dengelemenin, azaltmak kadar etkili olmadığını belirtti. tamamen tüketim. Microsoft gibi şirketler, sunucuları tamamen sıvıya batırmayı ve hatta daha az enerji ve su kullanmak için tüm veri merkezlerini okyanusa yerleştirmeyi denedi.
Tabii ki, bu çözümler oldukça egzotik – Nvidia’nın sunduğu sıvı soğutma türü veri merkezleri için mutlaka norm olmasa da, sunucularınızı okyanusa koymak kadar dışarıda değil (yine de Microsoft’un bununla ilgili deneyleri şimdiye kadar olmuştur). şaşırtıcı derecede başarılı). Nvidia, sıvı soğutmalı GPU’larını son teknoloji bir çözümden ziyade “ana akım” sunucular için açıkça pazarlıyor.
Bu, Nvidia’nın sıvı soğutmayı bile almaya çalıştığını görüp göremeyeceğimiz sorusunu gündeme getiriyor. daha fazla oyun odaklı kartları için referans tasarımlarına sıvı soğutma ekleyerek ana akım. Şirket bunu yapmak için herhangi bir plandan söz etmiyor, yalnızca “öngörülebilir gelecek” için “yüksek performanslı veri merkezi GPU’larımızda sıvı soğutmayı desteklemeyi” planladığını söylüyor.
Bununla birlikte, sunucu teknolojisi her zaman evdeki bilgisayar teknolojisine doğru ilerliyor ve fabrikadan doğrudan hepsi bir arada sıvı soğutuculu oyun kartları geliyor, tamamen duyulmamış bir şey değil – AMD’nin sahip olduğu birkaç referans tasarım bir sıvı soğutma döngüsü içeriyordu ve üçüncü taraflar daha önce sıvı soğutmalı Nvidia kartları sattılar. Nvidia’nın kartları giderek daha fazla güç çekmeye devam ettikçe (3090 Ti stoku 450 watt’a kadar çekebilir), Nvidia’nın sıvı soğutuculu bir RTX 5000 serisi kartı duyurmasına şaşırmam.
Nvida’nın veri merkezi odaklı kartlarına gelince, şirket ASRock, Asus ve Supermicro gibi şirketlerin sıvı soğutmalı kartları sunucularına “bu yıl sonra” dahil edeceğini ve yuvalı PCIe A100 kartların bu yılın 3. çeyreğinde geleceğini söylüyor. . Onun sıvı soğutmalı bir PCIe versiyonu yeni duyurulan H100 kartı (A100’ün yeni nesil versiyonu) “2023’ün başlarında” çıkacak.
