Microsoft’un Copilot’unun gelecekte AI PC’nizde yerel olarak çalışabileceği ve bu AI odaklı cihazlarda ne kadar güçlü bir NPU’nun (Sinir İşlem Birimi) gerekli olacağına ilişkin donanım gereksinimlerinin de doğrulandığı doğrulandı.
Tom’un Donanımı Team Blue’nun Taipei’deki Yapay Zeka Zirvesi’nde Intel’in Müşteri Bilgi İşlem Grubu Başkan Yardımcısı Todd Lewellen’in Soru-Cevap oturumunda kardeş sitemize yeni nesil bir Yapay Zeka Bilgisayarın NPU’sunun 40 TOPS’a (bir ölçüm) ulaşması gerektiğini doğruladığını bildirdi. Yapay zeka görevleriyle ilgili işlem gücü).
Bunun, bundan çok daha düşük TOPS ile çalışan mevcut nesil cihazlar değil (görünüşe göre ufukta görünen bir cihaz ordusu) yeni nesil AI PC’lerin NPU’su olduğunu unutmayın (bu konuya birazdan geri döneceğiz).
Belirtildiği gibi, gelecekte Microsoft’un Copilot AI’sinin AI PC’de yerel olarak çalışabileceği de doğrulandı; bu, çevrimiçi olma ve bulutun gücünden yararlanma ihtiyacının aksine, bu ek NPU işlem gücünün kolaylaştıracağı anlamına geliyor. Yapay zeka asistanının yanıtları. Veya Copilot işlevselliğinin en azından bir kısmı veya belki de büyük bir kısmı yerel olarak ele alınacaktır.
Lewellen konuyu şöyle açıkladı: “Ve bir sonraki nesle geçerken [AI PC], tıpkı istemcide yerel olarak çalışan Copilot’un daha fazla öğesiyle Copilot’u çalıştıracakları gibi, daha fazla şeyi yerel olarak çalıştırmamızı sağlayacak. Bu, Copilot’taki her şeyin yerel olarak çalıştığı anlamına gelmeyebilir ancak NPU’da çalışırken ortaya çıkacak birçok önemli yeteneğe sahip olacaksınız.”
Analiz: Oldukça yerel
Copilot’u yerel olarak çalıştırmak (yapay zekanın işlevlerinin en azından bazıları veya çoğu için), daha hızlı yanıtlardan yararlanmak anlamına gelir; çünkü iş yükünün dizüstü bilgisayarda yürütülmesi, yapay zekanın iyi ve hızlı olduğu anlamına gelir.
Bulut ağır işler için harika olsa da elbette işlerin uzaktan gerçekleşmesini beklemek zorunda kalmayı gerektirir (ve her zamanki gibi internet bağlantınızın isteklerine bağlıdır, özellikle bir dizüstü bilgisayarla hareket halindeyken bu durum düzensiz olabilir) .
Kartlardaki çok daha güçlü NPU’lar ve yıl ortasında piyasaya sürülecek olan Surface Pro 10 gibi cihazlarda 45 TOPS işlem performansı sunmayı vaat eden yeni Snapdragon X Elite çip ile bazı büyük adımlar atılmak üzere. Bunu bir perspektife oturtmak gerekirse, Intel’in mevcut Meteor Lake dizüstü bilgisayar silikonu yaklaşık 10 TOPS sunan bir NPU’ya sahiptir (ve Qualcomm, Snapdragon CPU’sunun AI iş yükleri için ne kadar hızlı olduğunu zaten çok açık bir şekilde ortaya koymuştur).
Copilot ile yerel olarak çalışmak ve verileri buluta aktarmamak, bariz nedenlerden dolayı daha güvenlidir; özellikle de eğer yapabiliyorsanız, doğası gereği hassassa, verilerinizi çevrimiçi göndermekten kaçınmak her zaman daha iyidir. Ve elbette, yerel işleme gizlilik açısından da daha iyidir (ancak sıkı bir gizlilik istiyorsanız, bir yapay zekaya veri beslemek ve herhangi bir şekilde onunla etkileşime geçmek bu hedefi sınırlayacaktır, diyelim mi?)
Ayrıca başka yerlerde Intel’in AI PC’lere biraz daha fazla bilgi döktüğünü ve bu bilgisayarlarda yalnızca bir NPU ve Copilot’un kurulu olmasının gerekmeyeceğini, aynı zamanda Microsoft’un 2024’ün başında açıkladığı klavyede özel Copilot tuşunun da kurulu olması gerekeceğini belirtmekte fayda var. (Teknik olarak bu biraz gri bir alan – ama kesinlikle tartışmalı ve burada daha geniş endişeleri uzun uzadıya tartışıyoruz).
Geçmişte duyulan başka bir söylenti de AI bilgisayarların 16 GB sistem RAM’ine ihtiyaç duyacağı yönündeydi ancak bu bilgi henüz doğrulanmadı. Yine, bu, Copilot’u veya en azından çoğunu yerel olarak dizüstü bilgisayarda çalıştırma amacına bağlı olabilir.
