Yapay zeka pazarını domine eden ve ABD’nin Çin’e özel GPU yasaklarına neden olan üst düzey donanımları hedefleyen Çinli üretici İstihbarat 1000 yuan veya kabaca 140 dolar karşılığında 48 TOPS’luk yapay zeka performansına sahip “DeepEyes” yapay zeka kutularını tanıtıyor. 14 milyonluk daha eski bir düğüm ve (büyük olasılıkla) bir ASIC kullanmak, Çin’in yaptırımlardan kaçmasının ve yapay zeka pazarında rekabetçi kalmasının başka bir yoludur.
2024 yılının ilk “Deep Eyes” AI kutusu, int8 eğitim performansında 48 TOPS için DeepEdge10Max SoC’den yararlanıyor. 2024 H2 Deep Eyes kutusu, 24 TOPS’a kadar DeepEdge10Pro kullanacak ve son olarak 2025 H1 Deep Eyes kutusu, DeepEdge10Ultra’nın 96 TOPS’a kadar derecelendirmesiyle önemli bir performans artışı hedefliyor. Yaklaşan bu üst düzey modellerin fiyatlandırması belirsizdir. Yine de, eğer ~1000 yuan’lik başlangıç maliyetini uzun vadede koruyabilirlerse, Intellifusion hala “senaryoların %90’ını kapsayan” “%90 daha ucuz AI donanımı” hedefine ulaşabilir.
Yukarıdaki tamamen yerli üretim donanımların tümü, Intellifusion’ın özel NNP400T sinir ağı çipinden yararlanıyor. SoC’lerin beklenen diğer bileşenlerinin yanı sıra, bu uzmanlaşmış (1,8 GHz 2+8 çekirdekli RISC CPU, DeepEdge 10’da 800 MHz’e kadar GPU), yerleşik etkili NPU, bunu pazarında oldukça lezzetli bir seçenek haline getiriyor.
Referans olması açısından, Microsoft’un “AI PC” ile ilgili belirttiği gereksinimlerini karşılamak için modern PC’lerin en az 40 TOPS NPU performansına sahip olması gerekir. Dolayısıyla Intellifusion’ın yakın gidişatı, özellikle mevcut NPU’ların çoğunun yalnızca 16 TOPS kadar hızlı olduğu göz önüne alındığında, yakında birçok AI iş yükü için uygun olacak gibi görünüyor. Ancak Snapdragon’un X Elite yongaları, bu yılın sonuna doğru sektör lideri iGPU performansının yanı sıra 40 TOPS’a sahip olacak.
Intellifusion başkanı Dr. Chen Ning’in belirttiği gibi, “Önümüzdeki üç yıl içinde dünya çapındaki şirketlerin %80’i büyük modeller kullanacak. […] Büyük bir modelin eğitiminin maliyeti on milyonlarca dolardır ve genel kullanıma yönelik hepsi bir arada eğitim ve itme makinelerinin fiyatı genellikle bir milyon yuan’dır. Çoğu şirket bu tür maliyetleri karşılayamaz.”
Dünya çapındaki şirketlerin %80’inin yapay zekadan yararlanacağı iddiası… en iyi ihtimalle sorgulanabilir gibi görünse de, burada işletmelerin özellikle kendi modellerini oluştururken yapay zekadan anlamlı bir şekilde yararlanmaları için giriş maliyeti konusunda adil bir noktaya vurgu yapılıyor. DeepEdge yongaları, kapsamlı model eğitimini ve çıkarım dağıtımını desteklemek için “bağımsız ve kontrol edilebilir yerli teknoloji” ve bir RISC-V çekirdeği kullanıyor.
