Diğer Çinli varlıklar gibi TikTok’un sahibi ByteDance de en yüksek performanslı Nvidia GPU’larını satın alıp bunları Çin’deki veri merkezlerine yükleyemiyor. Ancak şirket, fiziksel olarak diğer ülkelerdeki bulut veri merkezlerinde bulunan Nvidia GPU’larını hâlâ kullanabileceğini tespit etti. Şirket gelecek yıl bu tür GPU’ların kullanımını genişletmeyi ve Nvidia GPU’lara erişim için 7 milyar dolar kadar harcama yapmayı hedefliyor Bilgi kendi kaynaklarından alıntı yapıyor.
Raporda, ByteDance’in yapay zeka altyapısına 20 milyar doların üzerinde yatırım yapmayı planladığı, buna buluttaki, veri merkezlerindeki ve hatta denizaltı kablolarındaki gelişmiş Nvidia GPU’lara erişime yönelik 7 milyar doların da dahil olduğu belirtiliyor. ABD, ByteDance’in Nvidia GPU’larını satın almasını ve Amerikan bulut hizmetlerini kullanmasını yasaklıyor. Ancak ByteDance’in Orta Doğu veya Asya ülkeleri gibi başka yerlerdeki bulut hizmetlerine erişimini engelleyemez. Sonuç olarak ByteDance, teknik olarak ABD’nin Çin’in yapay zeka ve HPC sektörlerine yönelik yaptırımlarına bağlı kalarak Amerikan işlemcilere erişebiliyor.
ByteDance, gelecek yıl Nvidia GPU’larına 7 milyar dolar yatırım yapma planlarını yalanladı. Ancak rapor doğruysa ve ByteDance gerçekten de Nvidia GPU’lara bulut erişimine 7 milyar dolar yatırım yaparsa, dünyanın en büyük yapay zeka donanımı tüketicilerinden biri olacak.
Nvidia’nın H100 GPU’larına isteğe bağlı erişim kolaylıkla sağlanmaktadır. ABD’de H100 GPU’lara erişim fiyatı, uzun vadeli taahhütler için saat başına 1,33 dolardan başlıyor. Diğer ülkelerdeki fiyatlandırmalar aşağı yukarı karşılaştırılabilir olmalı ve ByteDance, saat başına yaklaşık 1,3 ABD Doları karşılığında, 2025’te 7/24/365 çalışan 614.682 H100 GPU’dan oluşan bir kümeyi 7 milyar ABD Doları karşılığında kiralayabilecektir.
Orta Doğu ve Asya’da kiralık yaklaşık 615.000 H100 GPU olduğundan emin değiliz ve yapay zeka projeleri oldukça sınırlı olduğundan ByteDance’in eğitim ve çıkarım iş yükleri için bu kadar çok işlemciye ihtiyaç duyduğundan da emin değiliz. Örneğin, en büyük projesi olduğuna inanılan 51 milyon aktif kullanıcıya sahip Doubao AI chatbot’u var. Bu nedenle, şirket ya yapay zeka altyapısını kiralamak için daha az harcama yapacak ya da yapay zeka projelerini önemli ölçüde genişletmeyi planlıyor ve bu nedenle daha fazla yapay zeka yeteneğine ihtiyaç duyuyor ya da Nvidia’nın kendi bünyesinde çalışması için azaltılmış H20 HGX ve B20 GPU’larını tedarik etmeye devam etmeyi planlıyor bulut sağlayıcılarından işlemci kiralamanın yanı sıra Çin’deki veri merkezleri. Örneğin, ByteDance’in 2024 yılında 200.000’den fazla Nvidia H20 GPU’ya 2 milyar dolardan fazla harcadığı bildiriliyor ve şirketin kendi donanımını satın almayı bırakıp tamamen diğer ülkelerdeki bulut sağlayıcılarına güvenmeye yeniden odaklanması pek olası değil.
ByteDance’in Nvidia’ya olan bağımlılığını azaltmak için kendi AI işlemcilerini geliştirmek üzere Broadcom ile birlikte çalıştığı da bildiriliyor. Şirketin biri eğitim, diğeri çıkarım için olmak üzere iki işlemci üzerinde çalıştığı söyleniyor. Çiplerin TSMC tarafından N4/N5 proses teknolojileriyle üretilmesi ve 2026’da seri üretime girmesi öngörülüyor. Her ne kadar ByteDance’in ABD ihracat kontrol kısıtlamaları nedeniyle GPU’larını Nvidia’nın HGX H20’sinden önemli ölçüde daha hızlı hale getirmesi pek mümkün olmasa da (ki bu da ABD ihracat kontrol kısıtlamalarını engelleyecektir). TSMC’nin yüksek performanslı GPU’ları Çinli kuruluşlara göndermesini engellemesi), şirket içi işlemcilerin şirket için çok daha uygun maliyetli olmasını sağlayacaktır.
