Ne bilmek istiyorsun
- Intel bu hafta Taipei’de geliştiriciler için bir Yapay Zeka Zirvesi düzenledi.
- Etkinlik sırasında Intel, Microsoft Copilot’un çok uzak olmayan bir gelecekte AI bilgisayarlarda yerel olarak çalışacağını açıkladı.
- PC’de yerel yapay zeka hizmetlerine geçiş, Intel Core Ultra işlemciler gibi yapay zekaya hazır CPU’lar sayesinde mümkün oluyor.
- Intel, Copilot gibi yapay zeka hizmetlerini yerel olarak çalıştırabilmenin avantajlarını sıraladı; bunlar arasında maliyet azaltma, performansta güvenilirlik, gizlilik (kişisel ve kurumsal veriler) ve daha fazla kişiselleştirme özellikleri yer alıyor.
Bu hafta Tayvan’ın Taipei kentinde binlerce geliştirici Intel Yapay Zeka Zirvesi için bir araya geldi. Bu etkinliğe bizzat katılma fırsatım oldu. Intel yöneticileriyle yaptığım soru-cevap toplantısında, Microsoft Copilot’un yakın zamanda mevcut bulut üzerinden çalışma yöntemi yerine yapay zeka bilgisayarlarda yerel olarak çalışabileceğini öğrendim. Bu daha önce söylentisi olan ama henüz doğrulanmayan bir şey. Intel’in Müşteri Bilgi İşlem Grubu Başkan Yardımcısı Todd Lewellen, Copilot hizmetinin belirli yönlerinin bir AI bilgisayarda düzgün çalışması için hâlâ bulut erişimi gerektirebileceğini açıkladı.
Lewellyn, “Yeni nesle geçtikçe, daha fazla şeyi yerel olarak yürütmemize olanak tanıyacak,” dedi, “tıpkı Copilot’u istemci üzerinde yerel olarak çalışan daha fazla Copilot öğesiyle çalıştıracakları gibi. Her şeyin böyle olduğunu kastetmiyorum. Copilot yerel olarak çalışıyor, ancak bu NPU üzerinde çalışırken görünecek birçok temel yeteneğe sahip olacaksınız. Şimdi Core Ultra ile başlıyoruz, ancak nesilden nesile ilerledikçe Microsoft ile tam orada olacağız. “
Şaşırtıcı olmayan bir şekilde Intel ve Microsoft, bir yapay zeka bilgisayarının ne olduğunu ve en iyi kullanıcı deneyiminin nasıl sağlanacağını tartışmak için bir araya geliyor.
“Son üç ayda Microsoft’la inanılmaz derecede uyum sağladığımızı söyleyebilirim. [regarding AI PCs],” dedi Lewellyn. “Biz [at Intel] AI PC’nin entegre bir NPU’ya sahip bir Ultra olduğunu söyleyebilirim. Microsoft, şu anda benimle oturuyor olsalardı şöyle derdi: ‘Todd, haklısın ama bununla birlikte gelen iki şey daha var, Yardımcı Pilot ve Yardımcı Pilot anahtarı. Bu üç şey.”
Microsoft’un daha önce AI PC klavyelerinde yeni bir Copilot anahtarının görüneceğini duyurduğunu hatırlarsınız ve bunu yeni Dell XPS dizüstü bilgisayarlarda (Dell XPS 14 incelememize bakın), ASUS Zenbook’larda ve ayrıca yeni modellerde zaten gördük. Surface Pro ve Surface Laptop’u duyurdu. Yıl ilerledikçe ek AI bilgisayarları piyasaya sürülmeye devam edecek.
Ama dikkatimizi tekrar Intel’e çevirelim. Muhtemelen şimdiye kadar duymuş olduğunuz gibi, Intel Core Ultra işlemciler (Meteor Lake olarak da bilinir), bilgisayarların eskisinden çok daha verimli çalışmasına olanak tanır. Bunun nedeni, geleneksel CPU ve GPU’ya ek olarak bir Sinir İşleme Birimi (NPU) kullanmalarıdır. Daha fazlasını NPU rehberimden öğrenebilirsiniz, ancak asıl fikir, NPU’ların belirli AI ve makine öğrenimi (ML) görevlerini üstlenmek üzere özel olarak tasarlanmış olması, CPU ve GPU’nun işini hafifleterek daha verimli çalışabilmeleridir. Böylece sistem, işlem gücü açısından genel olarak daha iyi performans gösterir.
Başka bir kayda göre, AI görevlerini GPU yerine NPU’ya vermenin sistemin genel pil ömrüne yardımcı olduğu ortaya çıktı. Lewellyn’in açıkladığı gibi Intel, AI hizmetlerinin PC’de yerel olarak çalışmasını sağlamanın en iyi yolu hakkında Microsoft ile sık sık konuşuyor ve daha iyi pil ömrü bu görüşmelerin önemli bir yönüydü.
“Uzun tartışmalar yaşadık [with Microsoft] Geçen yıl boyunca” dedi Lewellyn, “ve biz de ‘Bunu neden GPU’da çalıştıramıyoruz?’ dedik. ‘Hayır, hayır’ diyorlar. Tüm bu diğer işleri yapmak için GPU ve CPU’nun serbest bırakıldığından emin olmak istiyoruz. Ama aynı zamanda bunun harika bir pil ömrü deneyimi olduğundan da emin olmak istiyoruz ve eğer Copilot’u ve bu iş yüklerinden bazılarını GPU’da çalıştırmaya başlarsak, birdenbire pil ömrü tarafında büyük bir başarı göreceksiniz.”
“Yani, bu aslında doğru işlemciye yönelik doğru iş akışı haritasıyla ilgili. Bunu Microsoft ile yapıyoruz, ancak bunu ISV’lerle (bağımsız yazılım satıcıları) da yapıyoruz.”
AI bilgisayarların ve Copilot’un yerel olarak çalışmasına neden önem vermelisiniz?
Peki yapay zeka bilgisayarların ve Copilot’un yerel olarak çalışmasını neden önemsemelisiniz? Intel Yapay Zeka Zirvesi’nin açılış konuşmasında Bilgisayarlı Görme Yazılım Mühendisi Jamie Chang, bulut tabanlı yapay zeka hizmetlerinden yerel yapay zeka operasyonlarına geçişin beş temel faydasını açıkladı. Özellikle, maliyetlerin azaltılması, performansta daha fazla güvenilirlik, hem kişisel hem de kurumsal verilerde daha fazla gizlilik ve ek kişiselleştirme seçeneklerini sıraladı.
Bunların hepsi çok iyi noktalar, ancak burada oturup AI PC’mizin geleceği hakkında düşünürken, bazı ek noktalar da düşündüm. Öncelikle, Copilot gibi yapay zeka hizmetlerini yerel olarak çalıştırabilmek, sonunda dizüstü bilgisayarımda belirli yapay zeka veya makine öğrenimi görevlerini yerine getirirken internet bağlantısı kullanmama gerek olmadığı anlamına gelebilir. Güvenilir Wi-Fi’den uzakta olduğum ve dizüstü bilgisayarımdaki belirli AI hizmetlerine erişmek istediğim ancak eve dönene kadar beklemek zorunda kaldığım pek çok kez oldu. Copilot’u yerel olarak çalıştırabilmek, hareket halindeyken AI ve ML görevlerinde kesinlikle yardımcı olacaktır.
İkinci düşüncem Intel’in performansta güvenilirlik konusundaki görüşünü açıklıyor. Şu anda Copilot bulut tabanlıdır; bu, kullanıcıların hizmetin hem işlemesini hem de istemlerinize yanıt oluşturmasını beklemesi gerektiği anlamına gelir. Bu çalışma uzak bir sunucuda yapıldığından, genellikle deneyimi bozabilecek veya engelleyebilecek gecikme sorunları yaşanır. Dolayısıyla bilgisayarınızda yerel olarak çalışmak, internete bağlı olmayan daha sorunsuz (ve daha hızlı) yanıtlar sağlayabilir.
Intel Yapay Zeka Zirvesi’ndeki zamanımdan bu yana, hem Intel’in hem de Microsoft’un, Yapay Zeka bilgisayarlarının ve Yapay Zeka hizmetlerinin geleceğini planlarken iyi bir kullanıcı deneyimi yaratmaya odaklandıkları açıkça ortaya çıktı. ML ve AI görevlerini cihazlarımızda yerel olarak çalıştırabilmek, dizüstü bilgisayar kullanmayı halihazırda olduğundan çok daha kolay hale getirebilir ve bu, geleceğin beni heyecanlandıran bir yönü.
