Haber kaynağına göre BilgiTikTok’un ana şirketi olan ByteDance, 2026’ya kadar seri üretime girecek iki AI GPU geliştiriyor. TSMC her iki ürünü de üretecek. Resmi olmayan bir kaynaktan gelen bilginin doğru olduğu varsayıldığında, ByteDance, ABD ihracat düzenlemeleri dahilinde kalırken AI donanımı için Nvidia’ya olan bağımlılığı azaltacak.
ByteDance’in tasarım aşamasında olan ve bir yıl içinde, hatta daha sonra seri üretime girecek olan AI GPU’ları serisinde, biri AI eğitimi için, diğeri AI çıkarımı için yer alıyor. Google için AI çipleri inşa etmiş olan Broadcom’un AI çiplerini tasarlaması bekleniyor. GPU’ların TSMC’nin N4/N5 işlem teknolojilerinden birinde üretileceği söyleniyor, bu nedenle TSMC’nin 4NP’sine benzer bir düğüm, Nvidia’nın AI ve HPC için Blackwell serisi GPU’larını inşa etmek için kullanılıyor. ByteDance’in GPU’larının 2026’ya kadar seri üretime girmesi bekleniyor, bu nedenle 2026’da dağıtımlarını bekleyin.
ByteDance’in bu yıl sadece AI çalışmaları için 200.000’den fazla Nvidia H20 GPU’ya 2 milyar dolardan fazla harcadığı bildirildi (yani birim başına yaklaşık 10.000 dolar, bu da 12.000 – 13.000 dolardan biraz daha az) ve bu GPU’ların çoğu henüz şirkete teslim edilmedi. Bu büyük yatırım, AI’nın ByteDance’in genel stratejisi için önemini vurguluyor.
Rapora göre, ByteDance’in kendi AI donanımını üretmeye karar vermesinin nedenleri arasında Nvidia GPU’larının kıtlığı ve yüksek fiyatları da yer alıyor. Nvidia, geçen yıl uygulanan ABD ihracat kontrollerine yanıt olarak DGX H20 ve diğer bazı GPU’larını özellikle Çin pazarı için tasarladı.
Sonuç olarak, HGX H20, fiyat bilgisi doğruysa hala tam 10.000 dolara satılan, büyük ölçüde küçültülmüş bir GPU’dur (H100 ile karşılaştırıldığında). Örneğin, Nvidia’nın HGX H20’si yapay zeka hesaplamaları için yalnızca 296 INT8/FP8 TOPS/TFLOPS ve 148 BF16/FP16 TFLOPS performansı sunarken, tam teşekküllü H100 yapay zeka için 3.958 INT8/FP8 TOPS/TFLOPS ve 1.979 BF16/FP16 TFLOPS performansı sunar. Yine de, yerleşik 96 GB HBM3 bellek, 4,0 TB/s’ye kadar bellek bant genişliği ve 8 yollu GPU yeteneği ile Nvidia’nın HGX H20’si gerçek dünya uygulamalarında Çinli şirketler tarafından hala yüksek talep görmektedir. Nvidia’nın işlemcisinin Huawei’nin rakiplerini geride bıraktığı iddia ediliyor.
ByteDance’in ABD’deki ihracat kontrol kuralları nedeniyle GPU’larını Nvidia’nın HGX H20’sinden önemli ölçüde daha hızlı üretmesi pek mümkün olmasa da (çünkü TSMC bu tür GPU’ları ByteDance’e gönderemeyecek), şirket için önemli ölçüde daha ucuz olacaklar.
ByteDance’in GPU’larını AI için geliştirme girişimi hakkında büyük bir sorun var. Şirket artık AI eğitimi ve çıkarımı için Nvidia’nın CUDA’sına ve destekleyici yazılım yığınına güveniyor. AI GPU’larına geçince, yazılım platformunu geliştirmeli ve yazılım yığınının donanımıyla tamamen uyumlu olduğundan emin olmalı. Birçok Çinli şirket Nvidia’ya olan bağımlılığı azaltmak için AI GPU’ları geliştirmiş olsa da, bu çipler belirli iş yükleri için kullanılıyor ve diğerleri için Nvidia’nın GPU’larına güvenmeye devam ediyor.
Nvidia, bu yıl Çinli müşterilerine bir milyondan fazla HGX H20 ünitesi göndermeyi bekliyor. Bu rakam, Huawei’nin 2024 yılı için öngördüğü 550.000 adetlik Ascend 910B AI GPU satışının neredeyse iki katı. Nvidia’nın H20 GPU’ları, oyunculara yönelik GPU’lar gibi diğer donanım türlerinin satışları da dahil olmak üzere, şirketin bir önceki yılki toplam Çin gelirini aşarak 12 milyar doların üzerinde gelir elde edebilir.
