Şirketler LLM’nin artan bilgi işlem ve güç ihtiyaçlarını karşılamak için veri merkezini genişletmeye yatırım yapmaya devam ederken, İsviçreli girişim Apheros öncelikle mevcut altyapıdan en iyi şekilde yararlanmayı hedefliyor.
Bunu başarmak için Apheros, veri merkezlerinin soğutmasını iyileştiren ve toplam enerji tüketiminin neredeyse %40’ını oluşturan metal bir köpük geliştirdi. Teknoloji, soğutma sistemlerinin ısı transferini %90 oranında artırabilir, böylece enerji tüketimini önemli ölçüde azaltabilir.
Şirket yakın zamanda Founderful’dan 1,85 milyon dolarlık tohum öncesi fon aldığını duyurdu. Sermayeyi teknolojisini daha fazla soğutma sistemi üreticisine tanıtmak ve küresel veri merkezlerine açılmak için kullanmayı planlıyor. Uzun vadede ise metal köpüğün diğer alanlarda kullanımı da araştırılacak.
“Daha verimli soğutma çözümlerine kritik bir ihtiyaç var. Yapay zekadaki ilerlemeler, veri merkezlerinde güç tüketiminin katlanarak artmasına neden oluyor ve verimsiz soğutma bunun en büyük suçlusu. Metal köpüklerimiz, özellikle sıvı ve iki fazlı soğutma için mükemmel ısı transferi ve sıvı taşıma özelliklerine sahiptir. Apheros’un kurucu ortağı ve CTO’su Gaelle Andreatta, “Müşterilerimizle birlikte termal yönetimi yeniden tasarlıyoruz” dedi.
Son yıllarda veri merkezleri, özellikle yapay zeka eğitimi ve çıkarım olmak üzere yeni nesil iş yüklerinin bilgi işlem taleplerini karşılama konusunda artan baskıyla karşı karşıya kaldı. Geleneksel iş yüklerinden farklı olarak yapay zeka uygulamaları, özellikle de karmaşık algoritmalar ve derin öğrenme modelleri kullananlar, GPU’lar ve TPU’lar gibi özel donanımlar gerektirir. Bu kaynaklara geçiş, enerji tüketimini önemli ölçüde artırıyor; Goldman Sachs, veri merkezlerinin on yıl sonunda küresel elektriğin mevcut %1-2’den %3-4’ünü tüketeceğini tahmin ediyor.
Birkaç yıl önce çoğu kuruluş, veri merkezi sunucularını soğutmak için ısıtma, havalandırma ve iklimlendirme (HVAC) kullanıyordu. Yaklaşım işe yaradı, ancak hava soğutmanın fiziği o kadar güce aç ki bu sistemler, yapay zeka ve diğer modern uygulamaların gerektirdiği artan sunucu yoğunluklarını karşılayacak kadar süreci optimize edemedi.
Alternatif olarak piyasada daha verimli daldırma ve çip üzerinde soğutma ortaya çıktı. Birincisi, sunucuların dielektrik bir sıvıya batırılması etrafında dönerken, ikincisi, soğutucuyu doğrudan çipe bağlı soğuk plakalar aracılığıyla dolaştırıyor.
Bu yöntemlerin her ikisi de, çipten gelen ısının bir sıvıya ve daha sonra başka bir ortama (genellikle havaya veya harici bir soğutma sistemine) aktarıldığı ısı transferi fikrine dayandığından, soğutma sistemi tedarikçileri aşağıdaki gibi farklı teknolojiler kullanır: talaşların alan yüzeylerini arttırmak ve soğutma ortamıyla temas ettiğinde ısının transferini veya yayılmasını kolaylaştırmak için ısı emiciler veya bakır plakalar.
Apheros’un radyatör ve ısı eşanjörlerinin yerine geçmek üzere geliştirdiği metal köpükler 1000 kat daha fazla yüzey alanına sahiptir. Bu, köpüklerin termal iletkenliği ve birbirine bağlı gözenekli yapısıyla birleştiğinde, çipten çevredeki sıvıya %90’a kadar daha iyi ısı transferi sağlayabilir.
“Bu ultra yüksek yüzey alanlı metal köpük doğrudan çipe uygulanıyor ve sıvının çipin içinden akmasına izin veriyor. Böylece, çip üzerinde soğutma durumunda, içinden soğutucunun aktığı ve ısıyı dağıttığı çok ince gözenekli bir sünger gibi davranır. Aynı şey daldırma soğutmada da oluyor” dedi Apheros’un kurucu ortağı ve CEO’su Julia Carpenter.
Carpenter ayrıca, Apheros metal köpüklerinin, hassas dökümle üretilen diğer köpük türlerinden farklı olduğunu, bunların heterojenlik ve yapısal dayanıklılık eksikliğinin yanı sıra yüksek üretim maliyetleri gibi problemlere sahip olduğunu da belirtti. Bunun yerine, Apheros’un bilinen tüm sorunları ortadan kaldıran ve kullanıcılara bakır ve nikelden demir ve paslanmaz çeliğe kadar ihtiyaçlarına en uygun metali seçme olanağı veren tescilli, toz bazlı, oda sıcaklığında bir üretim yöntemi kullandığını söylüyor.
Köpük yoğunluğu 0,9 ila 2,2 g/cm³ aralığında olup, soğutma sistemlerine kolay entegrasyon sağlar.
Carpenter, şirketin “önemli” soğutma sistemi üreticilerine köpük sağladığını ve onlardan gelen geri bildirimlere dayanarak bunları geliştirmek için işbirliği içinde çalıştığını söyledi. Bu alıcıların kimliğini belirtmedi.
“Müşteri tabanımızı genişlettik ve 2023’ten 2024’e kadar gelirimizi on kat artırdık. Müşteri tabanımızda, öncü bir zihniyete sahip son derece yenilikçi şirketlerle ve bir dizi heyecan verici derin teknoloji girişimiyle çalışıyoruz” dedi Carpenter.
Metal köpüğün maliyeti, soğutma sistemlerinin nihai fiyatının %5’inden azdır. Bu, bu tür sistemlerin kullanımının veri merkezi sağlayıcıları için önemli bir yük olmayacağı anlamına geliyor.