Apple araştırmacıları kısa süre önce sınırlı bellekli ortamlarda LLM teknolojisini kullanma tekniklerini açıklayan iki makale yayınladı. ChatGPT gibi LLM’yi (Büyük Dil Modeli) temel alan sohbet robotlarının çalışması için büyük miktarda bellek gerekir. Bu nedenle bu teknolojinin iPhone dahil sınırlı hafıza kapasitesine sahip akıllı telefonlarda kullanılmasına yönelik birçok araştırma yapılıyor.
Bu sorunu çözmek için Apple araştırmacıları, yapay zeka modellerinden veri depolamak için flash bellek kullanan yeni bir teknoloji geliştirdiler. ” başlıklı belgedeFlash’ta Yüksek Lisans: Sınırlı Bellekle Verimli Yüksek Lisans Çıkarımı“, Apple, mobil cihazlarda flash belleğin, geleneksel olarak Yüksek Lisansı çalıştırmak için kullanılan DRAM’den daha verimli olduğunu açıklıyor.
Yüksek Lisans’ı iPhone’a entegre ederek şirket, her seferinde yeni veri yüklemek yerine halihazırda işlenmiş verileri kullanabiliyor. Flash belleğin kullanılması, halihazırda işlenmiş olan verilerin bir kısmını yeniden kullanarak veri aktarımını azaltmanıza olanak tanır.
Daha akıllı bir Siri’ye doğru
Araştırmacılar, bu yöntemlerin birlikte ele alındığında DRAM boyutunun iki katına kadar olan modelleri, CPU hızından dört ila beş kat daha hızlı ve GPU hızından 20 ila 25 kat daha hızlı çalıştırabildiğini söyledi.
Apple’ın, çalışanları LLM’lerde evde çalışma konusunda bilgilendirmek için önümüzdeki Şubat ayında AI konusunda dahili bir etkinlik düzenlediği söyleniyor. Ve Bloomberg, Apple’ın üretken yapay zeka teknolojisini içeren daha akıllı bir Siri geliştirdiğini bildiriyor.
Apple aynı zamanda “Ajax” adında şirket içi bir yapay zeka modeli üzerinde de çalışıyor. OpenAI’nin GPT-3 ve GPT-4 modelleriyle rekabet edecek şekilde tasarlanan Ajax, makine öğrenimi gelişimini Apple içinde birleştirmeyi hedefliyor. Ajax, ChatGPT 3.5’ten daha gelişmiş olacaktır ancak OpenAI’nin son modeli GPT-4 performans açısından hâlâ önde olacaktır.
Haitong Securities ve Bloomberg’den analist Jeff Fu’ya göre Apple’ın iOS18’i piyasaya sürdüğünde iPhone ve iPad’lerinde üretken yapay zekayı tanıtması bekleniyor. Jeff Fu, geçen Ekim ayında Apple’ın bu yıl yüzlerce yapay zeka sunucusu kurduğunu ve gelecek yıl daha fazlasını dağıtacağını söyledi.
Kaynak : “ZDNet Kore”