Bu bir yatırım tavsiyesi değildir. Yazarın bahsi geçen hisse senetlerinin hiçbirinde pozisyonu bulunmamaktadır. Wccftech.com’un bir bilgilendirme ve etik politikası vardır.
Cupertino teknoloji devi Apple, iPhone ve diğer ürünlerin yapay zeka özelliklerine yönelik yapay zeka eğitim yeteneklerini detaylandıran yeni bir araştırma makalesinde, öyle görünüyor ki, Cupertino teknoloji devi Apple, pazar lideri NVIDIA’nın çipleri yerine Google’ın çiplerine güvenmeyi seçmiş gibi görünüyor. NVIDIA’nın piyasa değeri besin zincirinin zirvesine yükselişi, gelir ve kazançları üç haneli yüzdelerle artıran GPU’larına olan güçlü talebe dayanıyor.
Ancak Apple, makalesinde 2,73 milyar parametreli Apple Temel Modelinin (AFM), genellikle Alphabet Inc’in Google’ı tarafından sağlanan v4 ve v5p tensör işleme birimi (TPU) bulut kümelerine dayandığını paylaşıyor.
Apple’ın Yapay Zeka Yaklaşımı GPU’lar Yerine TPU Kullanmaya Dayanıyor Araştırma Makalesini Gösteriyor
Apple’ın bugün erken saatlerde yayınlanan araştırma makalesi, bu yılın başlarında WWDC’de duyurulan özelliklere güç verecek yapay zeka modellerine yönelik eğitim altyapısını ve diğer ayrıntıları kapsıyor. Apple, hem cihazdaki yapay zeka işlemeyi hem de bulut işlemeyi duyurdu ve bu yapay zeka özelliklerinin merkezinde AFM adı verilen Apple Temel Modeli yer alıyor.
Sunucudaki AFM veya Apple Cloud Compute adı verilen bulut yapay zeka özelliklerini güçlendirecek model için Apple, 6,3 trilyon token’lık bir yapay zeka modeli eğittiğini paylaştı”sıfırdan” Biz “8192 TPUv4 yongaları.” Google’ın TPUv4 çipleri, her biri 4096 çipten oluşan bölmeler halinde mevcuttur.
Apple, AFM modellerinin (hem cihazda hem de bulutta) TPUv4 çipleri ve v5p Cloud TPU kümeleri üzerinde eğitildiğini ekledi. v5p, Google’ın Cloud AI ‘Hypercomputer’ının bir parçasıdır ve geçen yılın Aralık ayında duyuruldu.
Her v5p bölmesi, her biri 8.960 çipten oluşuyor ve Google’a göre, modelleri neredeyse üç kat daha hızlı eğitmek için saniyede iki kat daha fazla kayan nokta işlemi (FLOPS) ve TPU v4’e göre üç kat daha fazla bellek sunuyor.
Apple, yazma ve resim seçme gibi özelliklere yönelik cihaz içi yapay zeka modeli için 6,4 milyar parametreli bir model kullanıyor: “AFM sunucusuyla aynı tarifi kullanarak sıfırdan eğitildiApple ayrıca AFM sunucu modeli için eski v4 TPU çiplerini kullanmayı tercih etti. Yukarıda vurgulandığı gibi 8092 v4 TPU çiplerini kullandı ancak cihaz içi AFM modeli için firma daha yeni çiplere güvenmeyi seçti. Bu model Apple’a göre 2048 TPU v5p çipleri üzerinde eğitildi.
Makalede paylaşılan diğer ayrıntılar arasında modelin zararlı yanıtlar, hassas konular, gerçek doğruluk, matematik performansı ve model çıktılarından insan memnuniyeti açısından değerlendirilmesi yer alıyor. Apple’a göre AFM sunucu ve cihaz üstü modeller, zararlı çıktıların bastırılması konusunda sektördeki benzerlerine öncülük ediyor.
Örneğin, Apple’ın verileri, OpenAI’nin GPT-4’ü ile karşılaştırıldığında AFM sunucusunun %6,3’lük zararlı çıktı ihlal oranına sahip olduğunu gösteriyor; bu, GPT-4’ün %28,8’inden oldukça düşük. Benzer şekilde, cihazdaki AFM’nin %7,5’lik ihlal oranı, Llama-3-8B’nin (Facebook’un ana şirketi Meta tarafından eğitilmiştir) %21,8’lik puanından daha düşüktü.
E-posta, mesaj ve bildirim özetleme açısından cihazdaki AFM’nin memnuniyet yüzdesi sırasıyla %71,3, %63 ve %74,9’dur. Araştırma makalesinde bunların Llama, Gemma ve Phi-3 modellerine öncülük ettiği paylaşıldı.