- Phison’un SSD stratejisi AI eğitim maliyetlerini 3 milyon dolardan 100.000 dolara düşürüyor
- Aidaptiv+ yazılım AI iş yüklerini GPU’lardan SSDS’ye verimli bir şekilde kaydırır
- SSD’ler, büyük AI model eğitiminde pahalı GPU’ların yerini alabilir
AI modellerinin geliştirilmesi, boyutları ve karmaşıklıkları arttıkça giderek daha pahalıya mal olmuştur ve GPU’ların iş yükünün ele alınmasında merkezi bir rol oynamasıyla büyük hesaplama kaynakları gerektirir.
Phison, önemli bir oyuncu Taşınabilir SSDS, işlem yükünün bir kısmını GPU’lardan SSD’lere kaydırarak 1 trilyon parametre modelini eğitme maliyetini büyük ölçüde azaltmayı amaçlayan yeni bir çözüm ortaya koydu ve tahmini 3 milyon dolarlık operasyonel gideri sadece 100.000 dolara düşürdü.
Phison’un stratejisi, GPU’lar tarafından geleneksel olarak yönetilen bazı AI aracı işleme görevlerini işlemek için AIDAPtive+ yazılımını yüksek performanslı SSD’lerle entegre etmeyi ve aynı zamanda performansı artırmak ve maliyetleri yönetilebilir tutmak için NVIDIA’nın GH200 süperchip’ini de içeriyor.
AI modeli büyümesi ve trilyon parametreli kilometre taşı
Phison, AI endüstrisinin 2026’dan önce 1 trilyon parametre kilometre taşına ulaşmasını bekliyor.
Şirkete göre, model büyüklükleri hızla genişledi ve Lama 2’deki (2023) 69 milyar parametreden Lama 3.1 (2024) ile 405 milyar’a geçti ve ardından Deepseek R3’ün 671 milyar parametresi (2025).
Bu model devam ederse, 2025 yılının sonundan önce bir trilyon parametre modeli açılabilir ve AI yeteneklerinde önemli bir sıçrama işaret eder.
Buna ek olarak, çözümünün, işleme görevlerinin bir kısmını GPU’lardan en büyük SSD’lere kaydırarak büyük ölçekli AI modellerini çalıştırmak için gereken GPU’ların sayısını önemli ölçüde azaltabileceğine ve bu yaklaşım, eğitim maliyetlerini mevcut projeksiyonların sadece% 3’üne (% 97 tasarruf) veya daha az 1/25’ten daha azına indirebileceğine inanmaktadır.
Phison zaten Intel Xeon W7-3455 CPU’ları tarafından desteklenen AI iş istasyonlarını başlatmak için Maingear ile işbirliği yaptı ve AI donanımını yeniden şekillendirme taahhüdünü işaret etti.
Şirketler büyük AI modellerini eğitmek için uygun maliyetli yollar aradıkça, SSD teknolojisindeki yenilikler, verimlilik kazanımlarını artırırken önemli bir rol oynayabilirken Harici HDD seçenekleri uzun vadeli veri depolama ile ilgilidir.
Daha ucuz AI eğitim çözümleri için yapılan baskı, Deepseek’in bu yılın başlarında, Deepseek R1 modelinin, en yeni AI’nın olağan maliyetin bir kısmında geliştirilebileceğini,% 95 daha az yonga ile ve eğitim için sadece 6 milyon dolar gerektirdiğini gösterdiği zaman ivme kazandı.
Aracılığıyla Tweaktown
