Adobe araştırmacıları, belgeleri bir cihazda yerel olarak işleyebilen yeni bir yapay zeka (AI) modelini ayrıntılarıyla anlatan bir makale yayınladı. Geçen hafta yayınlanan makale, araştırmacıların, işleme kapasitesini ve çıkarım hızını yüksek tutarken yapay zeka modelinin boyutunu nasıl azaltabileceklerini bulmak için mevcut büyük dil modelleri (LLM’ler) ve küçük dil modelleri (SLM’ler) üzerinde deneyler yaptığını vurguluyor. Araştırmacılar, yapılan deneyler sonucunda, tamamen akıllı telefon içerisinde çalışabilen ve belgeleri işleyebilen SlimLM adlı bir yapay zeka modeli geliştirmeyi başardı.
Adobe Araştırmacıları SlimLM’yi Geliştiriyor
Bir sohbet robotunun içeriğiyle ilgili kullanıcı sorgularını yanıtlamasına olanak tanıyan yapay zeka destekli belge işleme, üretken yapay zekanın önemli bir kullanım örneğidir. Adobe dahil birçok şirket bu uygulamadan yararlandı ve bu işlevi sunan araçları yayınladı. Ancak tüm bu araçlarla ilgili bir sorun var: Yapay zeka işlemleri bulutta gerçekleşiyor. Verilerin sunucuda işlenmesi, veri gizliliğiyle ilgili endişeleri artırıyor ve hassas bilgiler içeren belgelerin işlenmesini riskli bir süreç haline getiriyor.
Risk esas olarak çözümü sunan şirketin yapay zekayı bu konuda eğitebileceği veya bir veri ihlali olayının hassas bilgilerin sızmasına neden olabileceği korkusundan kaynaklanıyor. Çözüm olarak Adobe araştırmacıları bir kağıt çevrimiçi arXiv dergisinde, belge işlemeyi tamamen cihazda gerçekleştirebilen yeni bir yapay zeka modelinin ayrıntıları veriliyor.
SlimLM olarak adlandırılan AI modelinin en küçük çeşidi, yalnızca 125 milyon parametre içeriyor ve bu da akıllı telefonun işletim sistemine entegre edilmesini mümkün kılıyor. Araştırmacılar, cihazın internet bağlantısına ihtiyaç duymadan yerel olarak çalışabildiğini iddia ediyor. Sonuç olarak veriler cihazdan asla çıkmadığı için kullanıcılar en hassas belgeleri bile korkmadan işleyebilir.
Makalede araştırmacılar, parametre boyutu, çıkarım hızı ve işlem hızı arasındaki dengeyi bulmak için Samsung Galaxy S24 üzerinde çeşitli deneyler yaptıklarını vurguladılar. Ekip, optimize ettikten sonra modeli SlimPajama-627B temel modelinde önceden korudu ve belge işlemeye yönelik özel bir yazılım olan DocAssist’i kullanarak ince ayar yaptı.
Özellikle arXiv, yayınlamanın hakem incelemesi gerektirmediği bir baskı öncesi dergidir. Bu nedenle araştırma makalesinde öne sürülen iddiaların geçerliliği tespit edilememektedir. Ancak eğer doğruysa yapay zeka modeli gelecekte Adobe platformlarıyla birlikte gönderilebilir.
