Qualcomm, AI görüntü oluşturucu Stable Diffusion’ın bir akıllı telefonda şimdiye kadarki en hızlı dağıtımı olduğunu iddia ederek mobil cihazlarda AI pirzolalarını sergiliyor.
Bir demo videosunda Qualcomm, 15 saniyenin altında 512 x 512 piksellik bir görüntü oluşturan Stable Diffusion’ın 1.5 sürümünü gösteriyor. Qualcomm telefonun ne olduğunu söylemese de, amiral gemisi Snapdragon 8 Gen 2 yonga seti (geçen Kasım ayında piyasaya sürülen ve yapay zeka merkezli bir Hexagon işlemciye sahip) tarafından desteklendiğini söylüyor. Şirketin mühendisleri, Stable Diffusion’ın en iyi şekilde çalışmasını sağlamak için yazılım tarafında da her türlü özel optimizasyonu yaptı.
Bazı bağlamlar: Stable Diffusion (AI görüntü oluşturmada temel bir unsurdur) gibi bir programı çalıştırmak çok fazla bilgi işlem gücü gerektirir ve bu tür hizmetleri mobil cihazlarda sunan çoğu uygulama, akıllı telefonunuzu yakmak yerine tüm işlemlerini bulutta yapar veya tablet. Düzgün bir dizüstü bilgisayarda bu şekilde bir görüntü oluşturmak bile dakikalar alacaktır, bu nedenle bir telefondan saniyeler içinde 512 x 512 görüntü elde etmek etkileyicidir.
Qualcomm bunun bir hız rekoru olduğunu iddia ediyor ve bundan şüphe etmek için hiçbir nedenimiz yok, ancak şirket aynı zamanda Stable Diffusion’ın Android’de yerel olarak ilk kez çalıştığını söylüyor, ki bu doğru görünmüyor. Biraz dolaştıktan sonra bulduk bu blog gönderisi geliştirici Ivon Huang’dan, Qualcomm Snapdragon 865 ve 8 GB RAM ile çalışan bir Sony Xperia 5 II’de Stable Diffusion’ı nasıl çalıştırdıklarını gösteren video. Yine de, Huang gibi bir tweetteki notlarbu kurulumla 512 x 512 görüntü oluşturmak saatbu nedenle Qualcomm, teknik bir “ilk” elde ettiği için değilse kesinlikle hız için puan kazanıyor.
iOS’ta benzer ayarlarda bir görüntü oluşturmak için AI kullanmak 60 saniye sürdü
Bir başka faydalı karşılaştırma da iOS ile. Aralık ayında, Apple Kararlı Yayılım elde etmek için gereken optimizasyonları yayınladı makine öğrenimi çerçevesi Core ML’de yerel olarak çalışıyor. Bu nedenle, sistemi bugün test etmek için, bir iPhone 13’te çalışan Stable Difüzyon 1.5’e sahibiz. Bir şeyler çiz Core ML hızlandırmalı uygulama. Bu kurulumla, 512 x 512’lik bir görüntü oluşturmak yaklaşık bir dakika sürdü, bu nedenle, bariz uyarılar geçerli olsa da, yine Qualcomm hız kazanıyor. Qualcomm, daha yeni bir donanım ve herkese açık olmayan özel bir optimizasyon paketi kullanırken iOS testimiz, üçüncü taraf bir uygulama kullanılarak 2021 model bir telefonda yapıldı.
Tüm bu nitelikler bir yana, bu yalnızca bir demo olsa bile Qualcomm’dan etkileyici. Mobil cihazlarda yerel olarak çalışan büyük yapay zeka modellerine sahip olmak, bulut bilişime güvenmeye kıyasla her türlü avantajı sunar. Kolaylık (bir mobil bağlantıya ihtiyacınız yoktur), maliyet (geliştiriciler, sunucu faturaları geldiğinde kullanıcılardan ücret talep etmez) ve gizlilik (yerel olarak çalışmak, başka birinin bilgisayarına veri göndermemeniz anlamına gelir) vardır.
Yapay zekanın ürünleştirilmesi ve hızlı bir şekilde gerçekleşiyor.