Kendi kendini ilan eden “GPU kümeleri için Craigslist” burada; gpulist.ai Kendisini internette herkesin kart başına ve saatlik olarak GPU kümesi kiralayabileceği tek yer olarak tanıtıyor. Hizmet daha dün başlatıldı ve küçük ve orta ölçekli sunucular, kart başına saati yalnızca dolar karşılığında yüzlerce GPU’yu kitlelere sunuyor. Artık herkes sıfırdan bir veri merkezi oluşturmaya gerek kalmadan teorik olarak birkaç AI GPU’nun gücünden yararlanabilir.
Site, AI startup yatırımcısı ve Daniel Gross ile birlikte Andromeda Cluster süper bilgisayarını yöneten eski GitHub CEO’su Nat Friedman tarafından duyuruldu. Craigslist ile hemen hemen aynı şekilde çalışır: GPU kümelerine sahip kişiler, sistem özelliklerini ve GPU başına saat başına maliyeti ayrıntılarıyla açıklayan listeler yapar ve kullanıcılar bir düzenleme yapmak için satıcılarla iletişime geçebilir. Görünüşe göre gpulist.ai’nin kendisinde çok karmaşık bir şey yok, çünkü büyük bir endüstri oyuncusu tarafından desteklenen bir pazar sunuyor.
Muhtemelen, GPU kümelerine sahip sunuculara sahip olan herhangi birinin (ki bu, sıfırdan oluşturmak en azından yüzbinlerce veya milyonlarca dolara mal olacaktır) bunları Craigslist benzeri bir web sitesinde listelemesinin son derece düşük bir ihtimal olduğunu düşünürsünüz, ancak siz çok üzülürdünüz. yanlış. Zaten kiralık A100 ve H100 GPU sunan 13 farklı liste mevcut. Bu listelerden ikisi Friedman ve Gross’un sahibi olduğu Andromeda’dan, diğer 11’i ise altı ayrı üçüncü taraftan.
Bu listelerden bazıları oldukça esnektir; minimum bir haftalık kiralama süresi, dört adet GPU ve bir durumda yalnızca bir kart sunar. Ancak kiracıların uzun vadeli veya büyük miktarda taahhütte bulunmalarını bekleyen birçok ilan var. H100 kümeleri için üç liste, kiracılardan en az 256 kart kiralamalarını istiyor; minimum 128 ve 50 olan bir tane daha var. Aynı listeler aynı zamanda en düşük 12 haftadan 104 haftaya kadar, yani neredeyse iki yıla kadar uzun kiralama süreleri gerektiriyor.
GPU başına saat başına kabaca 2 ila 3,50 ABD Doları arasında değişen fiyatlarda, bu oranların gerçekten buna değip değmeyeceğini merak ediyor olabilirsiniz. Son tahminler tek bir H100 GPU’nun fiyatının yaklaşık 40.000 $ olduğunu gösteriyor; aynı 40.000 $ karşılığında, gpulist.ai’deki mevcut fiyatlara göre muhtemelen bir ila bir buçuk yıl boyunca H100 kiralayabilirsiniz. Kiracıların en az 256 H100 GPU kiralamasını isteyen 104 haftalık listenin bile maliyeti yalnızca 256 H100 kart kadardır. Bir veri merkezini oluşturmaya veya yükseltmeye harcanan zaman ve para göz önüne alındığında (bu sadece GPU’lardan daha fazlasıdır), bu aslında hiçbir şekilde kötü bir anlaşma değildir.
Bunların hepsi çok yeni gibi görünse de %100 orijinal değil; çünkü geniş.ai, insanların bilgisayarları kiralamasına olanak tanıyan başka bir hizmettir. Gpulist.ai’nin geniş.ai’ye ne kadar benzediği sorulduğunda Friedman basitçe “bu kümeler için” dedi. İki hizmetin sunduğu GPU’ları karşılaştırdığınızda bu açıkça ortadadır. Vasat.ai büyük oranda RTX 4090’lar sunuyor ve çok az sayıda H100, A100 ve kiralanabilen diğer veri merkezi kartları mevcut. Vats.ai’de kiralanabilen en büyük tek H100 sunucusunda yalnızca sekiz GPU bulunur; görünüşe göre gpulist.ai’de en az 256 ve en fazla 1024 H100 kiralayabilirsiniz.
gpulist.ai’nin, erişimi kolay yapay zeka bilgi işlem gücü çağını başlatmaya yardımcı olup olmayacağı veya arz ve/veya talep eksikliği nedeniyle başarısız olup olmayacağı belli değil. Herhangi bir veri merkezinin gpulist.ai veya benzer bir hizmet için özel olarak GPU kümeleri oluşturmaya çalışması pek olası görünmüyor, çünkü getirisi buna değmeyecek gibi görünüyor. Bununla birlikte, bir veri merkezinde halihazırda kullanıma hazır GPU kümeleri varsa ancak herhangi bir nedenle üzerlerinde hiçbir şey çalışmıyorsa, bunları hızlı bir şekilde kiralamak, hiç para kazanmamak yerine en azından biraz para kazanmanın bir yolu olabilir. Bu ultra pahalı GPU’ların bir şekilde karşılığının alınması gerekiyor.