Arka pervaneAI süreçleri için bir GPU bulut sağlayıcısı olan , yakın zamanda Open-Sora V1.2 tabanlı bir ortam kullanarak AI tarafından oluşturulan videoyu sergiledi. Şirket, farklı istemler kullanan dört örnek gösterdi ve sonuçlar genellikle ortalama kalitedeydi. Ancak bu nispeten uysal örnekler için bile donanım gereksinimleri oldukça yüksektir.
Şirket blog yazısına göre, “3090’da 240p ve 4s’ye kadar videolar üretebilirsiniz. Bundan daha yüksek değerler kartın sahip olduğundan daha fazla bellek kullanır. Üretim 2s video için yaklaşık 30s ve 4s video için yaklaşık 60s sürer.” Bu, yalnızca 424×240 çıktı için makul miktarda bir hesaplama gücüdür – dört saniyelik bir videonun toplamda yaklaşık on milyon pikseli vardır.
Nvidia RTX 3090 bir zamanlar piyasadaki en güçlü GPU’ydu ve bugün hala oldukça güçlü. Birçok karmaşık AI iş yükü için kritik bir unsur olan 24 GB GDDR6X bellekle birlikte geliyor. Bu, herhangi bir modern oyun için yeterli VRAM olsa da, kapasite açısından daha yeni RTX 4090 ile eşleşse de, hala Open Sora video nesli için sınırlayıcı bir faktör. Şu anda bir grafik kartında daha fazla VRAM elde etmenin tek yolu profesyonel veya veri merkezi donanımına geçmek olacaktır.
Tek bir Nvidia H100 PCIe GPU, 94 GB’a kadar HBM2e belleğe ve HBM3e’li daha yeni SXM’ye özel Nvidia H200 için 141 GB’a kadar belleğe sahip olabilir. Bu veri merkezi GPU’ları, en üst düzey tüketici GPU’larının üç katından daha fazla olan muazzam kapasitesinin yanı sıra, çok daha yüksek bellek bant genişliklerine de sahiptir; Micron’un yeni nesil HBM3’lerinin 2 TB/s hıza ulaşması planlanmaktadır. H100 PCIe adaptörleri şu anda piyasada bulunmaktadır. 30.000$ perakendeAncak lisanslı dağıtımcılar bunları biraz daha az paraya satın alabilirler.
Çok daha makul bir fiyata 48 GB belleğe sahip bir Nvidia RTX 6000 Ada Generation alabilirsiniz 6.800$ doğrudan Nvidia’dan. Bu, herhangi bir tüketici GPU’sunun VRAM’inin iki katıdır ve yine de nispeten kısa kliplerde olsa da muhtemelen 512×512’ye kadar video üretimi için yeterli olacaktır.
Alternatif olarak H100 NVL de var, ancak çift GPU’lu model için hepsini tek başına bulmak biraz zor. Newegg’in bir özelliği var Supermicro çift Grace Hopper sunucusu 75.000$’aancak, size 186 GB paylaşımlı VRAM verecekti. O zaman belki de 720p video içeriği yapmaya başlayabilirsiniz.
Açıkçası, yukarıdaki GPU’lardan herhangi birini edinmenin en büyük dezavantajı fiyattır. Tek bir RTX 4090 1.599 dolardan başlıyor, bu çoğu tüketici için çok fazla para. Profesyonel GPU’lar dört kat daha pahalı ve veri merkezi AI GPU’ları potansiyel olarak 20 kat daha pahalı. H100, Intel ve AMD’den rekabet görüyor, ancak Intel’in Gaudi’sinin hala 15.000 doların üzerinde olması bekleniyor, AMD’nin MI300X’i ise 10.000 ila 15.000 dolar arasında fiyatlandırılıyor. Ve sonra, bir H100’den 20 kata kadar daha hızlı olması gereken ancak henüz gerçekten mevcut olmayan Sohu AI çipi var.
Gerekli nakit paranız olsa bile, bu GPU’ların çoğunu almak için en yakın PC mağazanıza gidemezsiniz. H100’ün daha büyük siparişleri için siparişinizi ödemeniz ve kapınıza ulaşması arasında iki ila üç ay bekleme süresi vardır. Güç gereksinimlerini de unutmayın. H100’ün PCIe çeşidi hala 350W güç çekebilir, bu nedenle 7/24 video üretiyorsa bu yılda yaklaşık 3 MWh’ye denk gelir – yılda yaklaşık 300 dolar, ki bu donanımın fiyatı düşünüldüğünde çok fazla değil.
Open Sora’yı çalışır hale getirmek de önemsiz bir çaba olmayabilir, özellikle de onu Nvidia olmayan çözümlerde çalıştırmak istiyorsanız. Ve diğer pek çok yapay zeka oluşturucu gibi, telif hakkı ve adil kullanımla ilgili pek çok soru yanıtlanmamış durumda. Ancak mevcut en iyi donanıma sahip olsa bile, destansı filmler oluşturmak için yapay zeka oluşturuculardan biraz daha fazlasının gerekeceğini düşünüyoruz.