Oppo Çarşamba günü akıllı telefonları için tasarlanan yeni bir cihaz içi yapay zeka (AI) özelliğini duyurdu. Firma, enerji tüketimini önemli ölçüde azaltmak ve aynı zamanda işlem hızını artırmak için uzmanlardan oluşan bir karma (MoE) yapay zeka mimarisi uygulamayı planlıyor. Oppo, akıllı telefonlar ve benzeri cihazlara yönelik teknolojiyi geliştirmek için önde gelen yonga seti üreticileriyle iş birliği yaptı. Ancak hangi akıllı telefonların bu teknolojiyle donatılacağı açıklanmadı. Firma yakın zamanda yeni yapay zeka özelliklerine sahip ColorOS 15’i tanıttı ve amiral gemisi Find X8 serisi 24 Ekim’de piyasaya sürülecek.
Oppo, Akıllı Telefonlar için Cihaz İçi MoE Yapay Zeka Mimarisini Tanıtıyor
Şirket paylaştı detaylar akıllı telefonlar için yeni şirket içi teknolojisi. MoE mimarisi yeni değil ve çeşitli açık kaynaklı MoE tabanlı AI modellerini yayınlayan AI firması Mixtral tarafından popüler hale getirildi.
Tek bir devasa merkezi sisteme sahip olan ve çok çeşitli yapay zeka görevlerini gerçekleştirebilen büyük dil modellerinin (LLM’ler) aksine, MoE mimarisi küçük dil modellerine (SLM’ler) dayanır. Bu SLM’ler belirli bir görevde uzmanlaşır ve daha küçük ancak daha alakalı veri kümeleri nedeniyle bunları daha yüksek doğruluk ve hızlarla gerçekleştirebilir.
Cihaz üzerinde uzmanlardan oluşan karma yapay zeka mimarisi uygulaması
Fotoğraf Kredisi: Oppo
MoE mimarisinde birden fazla SLM, arka uçta birlikte eşleştirilir ve ön uçta senkronize bir arayüz sunar. Bir kullanıcı bir görev istediğinde, sistem onu en yetenekli SLM’ye atar. Sonuç olarak sistem paralel işlem yapma yeteneğine sahiptir ve aynı anda birden fazla görevi gerçekleştirmesine rağmen işlem hızı önemli ölçüde etkilenmez.
SLM kullanımıyla eşleştirilen paralel işlem aynı zamanda güç tüketimini de azaltır. Oppo, bu mimariyi cihaza uygulamanın bir yolunu bulduğunu iddia ediyor, bu da daha hızlı AI işleme ve daha iyi pil ömrü sağlayacak.
Çinli akıllı telefon üreticisi, dahili testlere dayanarak MoE tabanlı yapay zeka sistemlerinin, yapay zeka görevlerini geleneksel alternatife göre yüzde 40 daha hızlı işleyebileceğini iddia ediyor.
Oppo ayrıca, sunucularda daha az yapay zeka görevinin işlenmesi gerekeceğinden cihaz içi MoE mimarisinin kullanıcılara daha fazla gizlilik sunacağının altını çizdi. Bu, verilerin yerel olarak depolandığı ve verilere yalnızca kullanıcının erişebildiği anlamına gelir.