Microsoft, Deepseek-R1 AI modelinin “NPU-optimize edilmiş” sürümlerini yakında Snapdragon X cihazları ile birlikte Copilot+ PC’lere getireceğini duyurdu, ardından Intel Lunar Lake ve AMD Ryzen AI 9 işlemcileri izledi. İlk sürüm Deepseek-R1-Distill-Qwen-1.5B olacak ve geliştiriciler için Microsoft AI araç seti aracılığıyla satışa sunulacak. 7b ve 14b varyantları daha sonra gelecek.
“Bu optimize edilmiş modeller, geliştiricilerin Copilot+ PC’lerindeki güçlü NPU’lardan tam olarak yararlanarak, cihazda verimli çalışan AI ile çalışan uygulamalar oluşturmasına ve dağıtmasına izin verir.” diyor Microsoft blog yazısı Deepseek R1 desteğini duyurma. “Phi Silika üzerindeki çalışmalarımızla, yüksek verimli çıkarımdan yararlanabildik – ilk jeton ve verim oranlarına çok rekabetçi bir süre sağlamak, pil ömrünü ve PC kaynaklarının tüketimini minimal olarak etkiliyor… Ayrıca, Windows Copilot çalışma zamanından yararlanıyoruz (WCR ) OnNX QDQ formatıyla çeşitli Windows ekosisteminde ölçeklendirmek. ”
Blog gönderisinde Microsoft, R1 modellerinin NPU tabanlı donanımda yerel olarak çalışabilmesini sağlamak için nasıl çalıştığını vurgular. “İlk olarak, donanım yığınında dinamik tensör desteğine sahip olmamasına rağmen, ilk jeton ve uzun bağlam desteğine süper hızlı zaman kilidini açan sürgülü bir pencere tasarımından yararlanıyoruz. İkincisi, 4 bit kullanıyoruz Çiğneme Düşük bit işlemeden gerçekten yararlanmak için nicemleme planı. ”
Microsoft, 1.5B damıtılmış R1 modelinin yakında mevcut olacağını ve VS kodundaki AI Toolkit uzantısı aracılığıyla erişilebileceğini söylüyor. Geliştiriciler, uyumlu Copilot+ PC’lerde yerel olarak Deepseek R1 ile denemek için oyun alanını kullanabilirler. Deepseek R1’i yerel olarak desteklemenin yanı sıra, Microsoft da Bu AI modellerini Azure AI Foundry aracılığıyla bulutta kullanılabilir hale getirmek. “Azure AI dökümhanesinin bir parçası olarak, Deepseek R1, güvenilir, ölçeklenebilir ve işletmeye hazır bir platformda erişilebilir, bu da işletmelerin SLA’ları, güvenlik ve sorumlu AI taahhütlerini karşılarken gelişmiş AI’yı sorunsuz bir şekilde entegre etmelerini sağlıyor-hepsi Microsoft’un güvenilirliği ve yeniliği tarafından destekleniyor. “
Microsoft, ABD teknoloji firmaları varlığı konusunda panik etse bile Deepseek R1’i desteklemek için hızlı hareket etti. Openai şimdi Deepseek’in AI modellerini geliştirmek için tescilli kod çaldığını iddia ediyor ve bu da gelişmesi 10 milyon dolardan daha düşük. Bu, şimdiye kadar milyarlarca maliyeti olan ABD firmaları tarafından geliştirilen AI modellerinin tam bir tezat oluşturuyor.
