DigiTimes Asya Çinli AI firmalarının AI yeteneklerini geliştirmek için çoklu çipli hibrit bir yaklaşım uyguladığını bildiriyor. Çoklu çipli yaklaşım ayrıca çeşitli avantajlar getiriyor. Bunlar arasında çoklu GPU paralel eğitimi kullanarak LLM eğitim hızlarını artırmak, daha iyi bellek kullanımı için aynı anda daha fazla verinin işlenmesine izin vermek ve yalnızca pahalı Nvidia çiplerine güvenmeyerek maliyetleri azaltmak yer alıyor.
Çinli teknoloji şirketleri, gelişmiş donanımlara erişimlerini sınırlayan Amerikan yaptırımlarını aşmak için yapay zeka eğitim ihtiyaçları için farklı tedarikçilerden GPU’ları bir araya getiriyor. Beyaz Saray, ABD yapımı teknolojinin Çin’e girmesini engellemek için Huawei’nin 2024’te sekiz ihracat lisansını iptal etmek gibi aktif önlemler alırken, gelişmiş yapay zeka işleme için gereken veri merkezi GPU’ları Doğu Asya Ülkesi’nde daha karmaşık hale geliyor.
Yerel yarı iletken şirketleri pazar boşluğunu doldurmaya çalışırken, Huawei’nin Ascend AI işlemcisi ülkede kolayca bulunabilen tek uygulanabilir AI çipidir. Ancak şirketin Ascend 910B için çip verimleriyle ilgili sorunlar yaşadığı bildiriliyor, bu da bu çiplerin fiyatlarının daha pahalı olabileceği ve üretiminin daha uzun sürebileceği anlamına geliyor.
Çin’deki GPU durumu, ABD-Çin çip savaşından bu yana o kadar kötüleşti ki, esas olarak Nvidia’nın AI GPU’larına odaklanan bir yeraltı kaçakçılık ağı zaten var. Yine de, bu karaborsa Nvidia kartlarının sınırlı arzı ve fahiş fiyatları, teknoloji şirketlerinin Amerikan GPU arzlarını yerel çiplerle (Huawei’den gelenler gibi) veya eski nesil GPU’lar gibi onaylanmamış arzlarla tamamlamanın yollarını bulmaları gerektiği anlamına geliyor.
Bunu mümkün kılmak için Çinli firmalar, farklı çipleri tek bir eğitim kümesinde birleştirmelerine olanak tanıyan ‘çok çipli hibrit’ teknolojiler geliştirmeye başladı. Örneğin, Baidu 2024 kazanç çağrısı sırasında çeşitli satıcılardan GPU’ları birleştirebileceğini ve bunları AI eğitimi için kullanabileceğini duyurdu. Başka bir büyük Çinli teknoloji şirketi olan Alibaba, 2021’den beri ‘tek bulut, çoklu çip’ çözümü üzerinde çalışıyor.
Tek bir AI sunucusunda farklı GPU’lar kullanmak, farklı hızlandırıcıların verimli bir şekilde iletişim kurabilmesini sağlamak için Nvidia’nın NVLink’i gibi yüksek hızlı bir yapıya ihtiyaç duymak gibi zorluklara sahiptir. Ancak Çinli teknoloji şirketleri de bu şekilde inovasyonu zorluyor ve Alibaba Cloud bunu kendi ethernet tabanlı Yüksek Performanslı Ağı için terk ediyor.
Beyaz Saray’ın Pekin’e uyguladığı yaptırımlar Çin’deki yapay zeka gelişimini ciddi şekilde sınırlandırıyor. Ancak bu, Çin’in ilerlemesinin duracağı anlamına gelmiyor. Birçok uzman ülkenin birkaç önemli teknolojik açıdan ABD’nin en az on yıl gerisinde olduğunu söylese de, yine de ilerleyecek ve teknoloji şirketleri jeopolitik engellere rağmen gelişmenin bir yolunu bulmaya çalışacak.