Büyük Dil Modelleri (LLM’ler), CPU ve bellek açısından son derece kaynak yoğundur, ancak Apple’ın bu teknolojiyi flash depolamada depolama konusunda deneyler yaptığı ve muhtemelen birden fazla cihazda kolayca erişilebilir olmasını sağladığı söyleniyor. Ancak teknoloji devi aynı zamanda Yüksek Lisans’ı iPhone ve Mac ürün gamında da yaygınlaştırmak istiyor ve bunu nasıl mümkün kılmanın yollarını araştırıyor.
LLM’leri flash bellekte saklamak zordu; Apple bunu sınırlı kapasiteye sahip makinelerde düzeltmeyi hedefliyor
Tipik koşullar altında Büyük Dil Modelleri, yapay zeka hızlandırıcılara ve depolanacak yüksek DRAM kapasitesine ihtiyaç duyar. Tarafından bildirildiği gibi TechPowerUpApple aynı teknolojiyi sınırlı hafıza kapasitesine sahip cihazlara getirmek için çalışıyor. İçinde yeni yayınlanan makaleApple, LLM’leri sınırlı bellek kapasitesine sahip cihazlara getirmeyi amaçlayan bir makale yayınladı. iPhone’ların hafızası da sınırlı olduğundan Apple araştırmacıları, yapay zeka modelinin verilerini depolamak için flaş çipleri kullanan bir teknik geliştirdiler.
Flash bellek, Apple’ın iPhone’larında ve Mac bilgisayarlarında bol miktarda mevcut olduğundan, bu sınırlamayı aşmanın, adı verilen bir teknikle bir yolu vardır. Pencereleme. Bu yöntemde yapay zeka modeli, halihazırda işlediği verilerin bir kısmını yeniden kullanarak, sürekli bellek alma gereksinimini azaltır ve tüm süreci daha hızlı hale getirir. İkinci teknik ise Satır-Sütun Paketleme; veriler daha verimli bir şekilde gruplandırılabilir, bu da yapay zeka modelinin flash bellekten verileri daha hızlı okumasına ve anlama yeteneğini hızlandırmasına olanak tanır.
Hem teknikler hem de diğer yöntemler, AI modellerinin iPhone’un mevcut RAM’inin iki katına kadar çalışmasına olanak tanıyacak ve bu da standart işlemcilerde 5 kata kadar, grafik işlemcilerde ise 25 kata kadar daha hızlı artışa yol açacak. Şirket içinde Apple GPT olarak adlandırılan kendi sohbet robotundan başlayarak, Apple’ın yapay zeka konusunda ciddi olduğunu gösteren pek çok kanıt var. Gelecek yılın iPhone 16’sının, şirket için maliyetli olacak, ancak Siri’nin çok sayıda görevi yerine getirmesini sağlamak için gerekli olacak gelişmiş konuşma girişine izin verecek yükseltilmiş mikrofonlara da sahip olacağı söyleniyor.
Ayrıca gelecek yıl resmi olarak geldiğinde iOS 18’e bir tür üretken yapay zekanın ekleneceği de söylentiler arasında. Bu nedenle Apple, OpenAI, Google, Amazon ve diğerlerinin arkasında olsa da bu fark 2024’te önemli ölçüde azalabilir. Bu teknolojiyi sınırlı belleğe sahip iPhone’lara, iPad’lere ve Mac’lere getirmek, bu cihazlara benzersiz bir satış noktası sağlayabilir, ancak önce flash bellekte depolanan LLM’lerin nasıl performans gösterdiğini görmemiz gerekecek.
