Microsoft’un Copilot AI’si yakında buluta güvenmek yerine PC’lerde yerel olarak çalışabilir.
Intel Tom’un Donanımına söyledi Chatbot’un, saniyede 40 trilyon işlemi (TOPS) aşabilen sinirsel işlem birimlerini (NPU’lar) içermesi gereken gelecekteki AI özellikli bilgisayarlarda çalışabileceği belirtiliyor; bu, şu anda mevcut olan herhangi bir tüketici işlemcisinin henüz eşleştiremediği bir performans seviyesidir.
Intel, bu AI bilgisayarların doğrudan makinede “daha fazla Copilot öğesi” işleyecek şekilde donatılacağını belirtti. Copilot şu anda çoğu görev için ağırlıklı olarak bulut işlemeye güveniyor ve bu da özellikle küçük taleplerde gözle görülür gecikmelere yol açıyor. Yerel bilgi işlem gücünün artırılmasının bu tür gecikmeleri azaltması ve potansiyel olarak performansı ve gizliliği artırması bekleniyor.
Intel, Computerworld’den gelen yorum talebine hemen yanıt vermedi.
PC’nizde yardımcı pilot
Daha önce bildirildiği gibi, Windows 11, ChatGPT, Adobe Firefly veya benzeri genAI araçlarında Copilot’un kullanılması, aslında görevlerin bilgisayarınızdaki yerine, önemli miktarda kaynak ve elektrik kullanan uzak veri merkezlerinde işlenmesini sağlar. Stable Diffusion metinden görüntüye modeli veya Llama dil modeli gibi uygulamaları yerel olarak çalıştırmak mümkün olsa da, yüksek kaliteli sonuçlara ulaşmak genellikle daha önce kripto para birimi madenciliği için aranan, önemli işlem yeteneklerine sahip bir bilgisayar, özellikle de yüksek hızlı bir GPU gerektirir. .
Donanımdaki son gelişmeler, özellikle de sinirsel işlem birimlerinin en yeni Intel Meteor Lake yongalarına ve AMD’nin tekliflerine dahil edilmesi, yapay zeka destekli bilgisayarlar hakkındaki tartışmaları ateşledi. Özel, düşük güçlü bileşenler olarak tasarlanan bu NPU’lar, üretken yapay zeka modellerinin yerel olarak yürütülmesini kolaylaştırmayı ve yapay zeka işleme verimliliğini artırmayı amaçlıyor. Beklenti, NPU’ların gelecekteki bilgisayarlarda standart bir özellik haline gelmesi ve genAI görevlerinin pil gücüyle bile arka planda sorunsuz bir şekilde çalışmasına olanak sağlamasıdır.
Örneğin, MSI’ın en yeni yapay zeka motoru, dizüstü bilgisayarınızın etkinliklerini tanır ve pil profilini, fan hızını ve ekran ayarlarını görevinize uyacak şekilde otomatik olarak ayarlar. Oyun oynarken performansı maksimuma çıkarır; Word belgeleri üzerinde çalışmaya geçin ve her şeyi geri çevirir.
Hareket halindeyken yapay zeka
Yerel yapay zeka trendi PC’lerle sınırlı değil. Örneğin, Google’ın Pixel 8 ve Pixel 8 Pro akıllı telefonları, Google’ın cihaz içi üretken yapay zeka için zemin hazırladığını iddia ettiği Tensor G3 çipiyle donatılmıştır. Bu teknoloji, Recorder uygulamasında ses özetleme ve Gboard klavyesinde akıllı yanıt oluşturma gibi yapay zeka destekli işlevleri zaten desteklemektedir. Ancak bu ilerlemelere rağmen bu tür donanımlar şu anda Google’ın Bard AI, Copilot veya ChatGPT gibi kapsamlı AI modellerini yerel olarak çalıştırabilecek kapasitede değil. Bunun yerine, bu cihazlar daha kompakt modelleri çalıştırıyor.
Yerel yapay zeka işlemenin bir yararı da siber güvenliği artırabilmesidir. Siber güvenlik danışmanı John Bambanek, şirketlerin yapay zekayı fikri mülkiyet görevlerine entegre ederken karşılaştıkları önemli bir riskin veri akışını ve erişimi yönetmek olduğuna dikkat çekti.
“Verilerin vaat edilse bile kaybolabileceğini bilecek kadar bulut hizmetlerinde üçüncü taraf ihlalleri gördük” diye ekledi. “Kuruluşlar Microsoft’un Copilot AI’sini yerel olarak yapabilirlerse, CISO’lar yine de verileri üzerinde kontrol sahibi olduklarını hissedecek ve bu, benimsenmenin önündeki muhtemelen en büyük engeli ortadan kaldıracaktır.”
Telif Hakkı © 2024 IDG Communications, Inc.
