Qualcomm Çarşamba günü yapay zeka (AI) firması Mistral ile ortaklık yaptığını duyurdu. Snapdragon Zirvesi’nde duyurulan bu ortaklık, Mistral’in iki yapay zeka modelinin (Ministral 3B ve Ministral 8B) çeşitli Snapdragon Elite serisi yonga setleriyle desteklenen cihazlarda cihaz üzerinde çalışacak şekilde optimize edilmesini sağlayacak. Şirket, bu yapay zeka modellerinin akıllı telefonlara, bilgisayarlara, araçlara ve daha fazlasına yapay zeka yetenekleri ekleyeceğini söyledi. Hareket, işlem hızlarını iyileştirmeyi ve AI görevlerinin güç tüketimini azaltmayı amaçlıyor.
Qualcomm ve Mistral, Cihaz İçi Yapay Zeka Modellerini Tanıtmak İçin El Ele Veriyor
Çip üreticisi, bir basın bülteninde Qualcomm ve Mistral’ın cihazda çalışmak üzere tasarlanmış belirli yapay zeka modellerini tanıtmak için birlikte çalışacağını resmen duyurdu. Hareket, yerel işlemeyle karşılaştırıldığında hem enerji yoğun hem de daha yavaş olduğu düşünülen yapay zeka görevlerinde uç ve bulut işlemeye olan bağımlılığı azaltmayı amaçlıyor. Qualcomm ayrıca bu yapay zeka modellerinin yalnızca Mobil Platformlar için değil aynı zamanda PC’ler ve araç ekosistemi için de optimize edileceğini ekledi.
Bu ortaklıkla Ministral 3B ve Ministral 8B, akıllı telefonlar için yakın zamanda piyasaya sürülen Snapdragon 8 Elite, otomotiv için Snapdragon Cockpit Elite ve Snapdragon Ride Elite ve AI PC’ler için Snapdragon X Elite tarafından desteklenen cihazlarda çalışacak şekilde optimize edilecek.
Ministral 3B ve 8B AI modelleri başlatıldı geçen hafta. Bunlar şirketin ticari kullanım için tasarlanmış ilk büyük dil modelleridir (LLM’ler). Bu modeller, işlev çağırmayı destekleyerek uygulama programlama arayüzü (API) kullanım durumları için idealdir. Mistral’a göre yapay zeka modelleri 1.28.000’e kadar token bağlam uzunluğunu destekliyor.
Qualcomm, cihaz içi yapay zeka modellerinin son kullanıcılara gelişmiş gizlilik, daha düşük gecikme süresi, daha yüksek güvenilirlik, enerji verimliliği ve maliyet tasarrufu dahil olmak üzere birçok fayda sunacağını belirtti. Kıdemli Başkan Yardımcısı ve Genel Müdür Durga Malladi şunları söyledi: “Mistral AI’nin Ministral 3B ve Ministral 8B’si, cihaz üreticilerinin, yazılım satıcılarının ve dijital hizmet sağlayıcıların, yapay zeka asistanları ve kullanıcıların isteklerini ve ihtiyaçlarını anlayan diğer uygulamalar gibi yenilikçi deneyimler sunmalarına olanak tanıyacak” dedi. Qualcomm Technologies’de Teknoloji, Planlama ve Uç Çözümler Müdürü.
Şu anda geliştiriciler Mistral 7B v0.3 AI modeline Qualcomm AI Hub aracılığıyla erişebiliyor. İki Bakanlık AI modeli önümüzdeki haftalarda merkeze eklenecek.