Bilgi işlem gücünü artırmak ve enerji tüketimini azaltmak: Denklem basit (kağıt üzerinde) ve aynı zamanda onu yere boşaltmak için doğru çözümü bulmaya gelince çok karmaşık bir konu. Üretken yapay zeka modellerini eğitmek ve yapay zeka uygulamalarını uygulamak ve güçlendirmek için işleme kapasitesine olan talep giderek artıyor (AI Now Enstitüsü’nün bulgularına göre, her altı ayda bir ikiye katlıyoruz) ve bu talebin artmaya devam edeceğini düşünmek mantıklı. büyümek. Bununla birlikte, veri merkezleri hâlihazırda küresel elektrik ihtiyacının %1,5 ila %2’sinden sorumludur (Uluslararası Enerji Ajansı IAEA’ya göre) ve bu oranın önümüzdeki yıllarda da artması bekleniyor. Yüksek Performanslı Bilgi İşlem sistemlerinin maliyetlerini ve çevresel etkilerini kontrol altına almak bu nedenle teknoloji endüstrisi için ortak bir yükümlülüktür ve bu sektörün ana altyapı tedarikçilerinden biri olan Lenovo’nun stratejisi bu yöndedir. Onun övünmesi mi? Altıncı nesil Neptune sıvı soğutma sistemleri, sunucu grubu tüketimini %40’a kadar azaltma kapasitesine sahiptir.
Nesil Yapay Zekanın GPU’lar üzerindeki etkisi
Çinli üreticinin Altyapı Çözümleri Grubu bölümünün Ülke Genel Müdürü ve CEO’su Alessandro de Bartolo, atıfta bulunulacak senaryonun, talebe her zaman ulaşmak için bir Nesil Yapay Zekayı sorgulamak için dayatılan daha büyük ihtiyaçlardan başlayarak bir dizi yakınsama faktörünü nasıl yansıttığını vurguluyor GPU’ların ve CPU’ların fiziksel sınırlarına doğru ilerlememizden veri merkezi alanlarını optimize etmek için sistemleri minyatürleştirme ihtiyacına kadar artan veri işleme ve hesaplama kapasitesi. Üretken yapay zeka modellerinin geliştirilmesi için gerekli hesaplama gücü ve yoğunluğunun ne kadar etkili olabileceğine dair belirsiz bir fikir vermek için, Goldman Sachs’ın tahminlerinin sonucu olan ve artık yaygın olarak kullanılan bir operasyonla bağlantılı olan tek bir veri muhtemelen yeterlidir. Gezegendeki milyonlarca insana: ChatGpt’te yapılan her “sorgu”, Google arama motoruyla yapılan klasik bir etkileşimden neredeyse on kat daha fazla enerji gerektirir. Geniş formatlı dillerden yararlanan yapay zeka, bu nedenle giderek daha fazla “enerji yoğun” donanım gerektirir (ve tüketimi hesaba katarken, dijital hizmetlerin giderek artan yaygınlığı da unutulmamalıdır) ve artan ısının yönetilmesi de dahil olmak üzere birçok yeni zorluğun önünü açar. iş yüklerini destekleyen grafik işleme birimlerinden. Aslında GPU’ların ihtiyaç duyduğu enerji, CPU’ların emdiğinden beş ila on kat daha fazladır (daha fazla sayıda entegre transistör nedeniyle) ve ayrıca güç yoğunluğunu daha da artıran bileşenlerin minyatürleştirilmesi süreci daha fazla ısı gerektirir. Kuruldukları sistemlerde üretim. Ve dolayısıyla makine dairelerini soğutmak için daha fazla elektrik kullanılması.
Enerji maliyetleri ve tüketimi: sürdürülebilir bir modele doğru
Yönetici, Sole24ore.com’a yaptığı açıklamada, başa çıkılması gereken zorluklardan birinin “verilerin işlendiği yeri dağıtmak ve dolayısıyla farklı işlem gücü, güç kaynağı ve soğutma gerektiren iş yüklerinin nasıl yönetileceğini bilmek” olduğunu açıklıyor. Kısacası, uç bilişim paradigması, veri merkezlerinin daha sürdürülebilir olmasına öncülük etmesi gereken oyunda önemli bir rol oynuyor ve bu anlamda Lenovo’nun vizyonu, yapay zeka destekli altyapının hibrit olacağı (çok yakın) bir geleceğe bakıyor. yüksek bilgi işlem yoğunluğuna sahip alanlar (veri merkezleri) ve verilerin sahada işlenebileceği uçtaki yerler. Öte yandan mevcut durum, “enerji açısından en yoğun bileşen olan ve – yöneticinin altını çiziyor – makine dairelerinde önemli müdahaleler gerektiriyor; burada enerji verimliliğinin, aynı zamanda jeneratörün işleyişini modüle edecek olan Gen Yapay Zeka desteği sayesinde en üst düzeye çıkarılması gerekiyor. yönetiminin çeşitli aşamaları için gereken tüketime ilişkin sistemler”. Aynı madalyonun diğer yüzü ise enerji maliyetidir: IDC tarafından yakın zamanda yapılan bir simülasyon, veri merkezlerinin çalışması için gerekli olan elektrik harcamalarının ne kadar olduğunu ortaya koymuştur (hesaplama, PUE, Güç Kullanım Verimliliği, birim) olan yapılar üzerinde gerçekleştirilmiştir. Bir veri merkezinin enerji verimliliği ölçümünün (1,5) yıllık bileşik oranı %20 civarında artabilir ve bu yükseliş eğilimi sektörün ekonomik sürdürülebilirliğini riske atabilir. “En önemli etki – de Bartolo’nun altını çiziyor – teknolojinin edinilmesi değil, zaman içinde işleyişi ve bakımıdır. Teknoloji, sistemleri daha azla daha fazlasını yapmaya yönlendirmeli: İtalya’daki enerji maliyetlerine baktığımızda, tüketim %40 oranında azaldığında elde edilebilecek faydalar çok önemli hale geliyor.” En son teknolojilerin katkısı ve yenilenebilir kaynakların giderek stratejik kullanımı, yönetim maliyetlerini azaltmanın ve veri merkezlerinin çevresel etkisini azaltmanın “zorunlu” yolları ve sonuç olarak büyük makine dairelerinin geleneksel hava sistemleri gibi soğutulduğu yöntemlerdir. artık karbon emisyonlarını azaltma zorunluluğunu desteklemede etkili olmadıklarını kanıtlıyor. Ve Lenovo, tam da bu düzeyde bir fark yaratabileceğine inanıyor.
Nvidia’nın sevdiği su soğutmanın avantajları
Çinli çokuluslu şirketin, yapay zeka uygulamalarının ve modellerinin işlendiği ortamlardaki soğutma teknolojilerinden bahsederkenki yaklaşımı, belirleyici faktörün yalnızca veri merkezi içinde çalışan bileşenlerin gücü değil, yoğunlukları olduğu varsayımını yansıtıyor. Sunucular üç kat daha büyük olmadığı sürece, etkili ısı gidermeyi garanti eden sistemler gerekli hale gelecek ve sıvı soğutma (de Bartolo bu konuda belirtiyor) yapay zekanın ana akım yayılımını desteklemek için vazgeçilmez ve yeni nesil bilgisayarların tasarımı için çok önemli bir unsur haline gelecek. hiper ölçekleyiciler, orta ve büyük işletmeler ve kamu araştırma merkezleri tarafından kullanılan veri merkezleri”. İkincisi, şaşırtıcı olmayan bir şekilde, kendi HPC’lerinin yapay zeka anahtarındaki çalışmalarını desteklemek için sıvı soğutmanın etkinliğine ilk inananlar arasında yer alırken, yenilikçi çözümlere yatırım yapma konusunda daha ihtiyatlı olduğu bilinen şirketler giderek bu teknolojiye göz kırpıyor ve özellikle finans sektöründe ve otomotiv endüstrisinde olanlar. Çinli üretici, oda sıcaklığındaki prizlerle saf su kullanan ve süper bilgisayarlar tarafından üretilen ısının %98’e kadarını dağıtırken aynı zamanda ısıyı korumayı vaat eden Neptune sistemleriyle on yıllık deneyimi onlara ve tüm endüstrilere sunabilir. Maksimum çalışma frekansını garanti edebilecek değerlerde CPU sıcaklığı. Lenovo, tüketim üzerindeki etkinin hem bireysel sunucular hem de (her şeyden önce) bir bütün olarak veri merkezi düzeyinde önemli olduğunu doğruluyor; çünkü (normalde) bir makine dairesi tarafından kullanılan enerjinin yalnızca üçte ikisi işleme amaçlıdır. üçüncüsü ise çevre bazında soğutmak için kullanılır. Ama sadece bu değil. Sıvı optimizasyonlu veri merkezleri, daha az fiziksel alan kullanarak daha fazla ekipmanı yüksek raf yoğunluğuna yerleştirmenize ve dolayısıyla yeni bina inşa etme ihtiyacını azaltmanıza ve binaları ısıtmak için makinelerden kaçan sıcak suyun ısısını toplamanıza olanak tanır. “Eninde sonunda – de Bartolo bunu doğruluyor – Nvidia’nın Blackwell üretken yapay zekası için GPU mimarisini benimseyen sistemlerin %100’ünü su soğutmalı hale getireceğiz”.
Sürdürülebilir süper bilgi işlem için İtalya’nın en iyi uygulamaları
İtalya, ki bu çok iyi bir haber olarak okunmalıdır, su soğutma sistemlerinin benimsenmesinde öncüdür ve bu haber, IDA (İtalyan Veri Merkezi Birliği) tarafından tahmin edilen, veri merkezi sektöründe yapılacak yatırım öngörüleri ile paralellik göstermektedir. yani önümüzdeki 5-10 yıl için 10 ila 13 milyar avro arasında, yolda ve sunum aşamasında olan yaklaşık yirmi proje ve BT ekipmanı giderleri ve işletme maliyetleri de dahil olmak üzere 15 milyarı aşabilecek genel ekonomik etki. İtalya’daki ticari veri merkezlerinin kapasitesinin 2028 yılına kadar neredeyse 1 GW kurulu BT gücüne ulaşması bekleniyorsa (ya da yapay zekanın yönlendirdiği ileri yarış hızlı bir şekilde devam ederse 1,2 GW bile), süper hesaplama ile ilgili tüm projeler göbekte olacaktır. Lenovo’nun üzerinde çalıştığı başlıca İtalyan araştırma merkezlerinden çoğu, Neptune teknolojisinin benimsenmesini düşünüyor. Bahsedilecek isimler, iklim değişikliğinin etkilerini inceleyen Lecce CSCC’si, Pisa Üniversitesi, ENEA (yeni teknolojiler, enerji ve sürdürülebilir ekonomik kalkınma Ulusal Ajansı) ve Cineca’dır. Kesinlikle bu son ikisi, kol kola