“NPU’yu ilk kullanan bizdik ve ardından ikinci yinelememizi halihazırda kullanıma hazır hale getiren ilk kişiler biziz.”
Yapay Zekalı PC’ler son zamanlarda büyük ilgi görüyor; Microsoft, Yapay Zekalı PC’leri, Yardımcı Pilot anahtarına sahip ve CPU ve GPU’nun yanı sıra bir NPU (Sinir İşlem Birimi) kullanan bir sistem olan yapay zeka özellikli bilgisayarlar olarak tanımlıyor. AMD, NPU’ları üreten ilk yonga şirketiydi, ancak artık Intel, daha fazla AI PC’nin pazara girmesine olanak tanıyan NPU’lu kendi Core Ultra işlemci serisine sahip (daha fazla bilgiyi NPU kılavuzumuzdan öğrenin).
Yakın zamanda AMD benimle AMD Ryzen AI işlemcilerinin Intel’in AI işlemcilerinden daha hızlı ve daha verimli performans gösterdiğini gösteren kıyaslamaları paylaştı. Bu bilgiyi inceledikten sonra AMD Kıdemli İşlemci Teknik Pazarlama Müdürü Donny Woligroski ile AMD’nin Intel’e karşı rekabet üstünlüğünü nasıl korumayı planladığını tartışmak için görüştüm. Ayrıca AI PC’ler, Ryzen AI işlemciler ve AMD’nin gelecekte neler gördüğü hakkında da konuştuk.
Bu röportaj, netlik sağlamak amacıyla özetlendi ve düzenlendi.
AMD, Woligroski ile konuşmadan önce bana sunum slaytları ve AMD Ryzen 7 7840U’nun (15W) Intel Core Ultra 7 155H’den (28W) açıkça daha iyi performans gösterdiği karşılaştırmaları gösteren kayıtlı bir brifing gönderdi. Spesifik olarak, bazı karşılaştırmalar ve gösterimler, AMD’nin işlemcisinin LLM metin istemlerine Mistral AI içindeki Intel işlemcisinden önemli ölçüde daha hızlı yanıt verebildiğini gösterdi (yukarıdaki ilk jetonun zaman çizelgesine bakın). Gerçekten etkileyici sonuçlar.
Geçtiğimiz günlerde binlerce geliştiricinin Intel’in yeni Core Ultra AI hızlandırıcı işlemcileri hakkında daha fazla bilgi edindiği Taipei’deki Intel AI Zirvesine katıldım. Bu durum bana, AMD’nin bu kadar etkileyici yapay zeka donanımına sahip olmasına rağmen Intel’in işlemci pazarında AMD’den daha büyük bir etkiye sahip olduğunun bir sır olmadığını düşündürdü. Bunu Woligroski’ye sordum ve sordum. AMD’nin artık Intel’in de mücadeleye katılmasıyla yapay zeka işlemcileri alanında rekabetçi kalmayı nasıl amaçladığı.
“Demek istediğim, tam açıklama yapmak gerekirse, konu bu tür şeyler olduğunda rakiplerimizin muhtemelen çok daha büyük bir kedisi var” dedi bana. “Fakat AMD’nin gücü her zaman… sadece iyi ürünler üretmek ve [buyers] er ya da geç bu söz duyulduğunda gelecektir. Bu gerçekten farklı değil. Biz sadece elimizden gelenin en iyisini yapıyoruz, elimizden gelen en iyi donanımı üretiyoruz ve insanların değerimizi bilmesini sağlamaya çalışıyoruz.”
Tartışmamızın bir süre sonra yapay zeka işlemcileri alanında rekabetçi kalma konusuna bir kez daha döndük. “NPU’yu ilk kuran bizdik” diye devam etti. “Ve ikinci yinelememizi zaten çalıştıran ilk kişiler biziz. Yani 7000 serisinin ilkinde Saniyede 10 TOPS veya 10 Trilyon Tera Operasyonu gerçekleştirdik. 8000 serisinde, 16 [TOPS]. Yani zaten %60 daha hızlı. Ve Aralık ayındaki yapay zeka etkinliğimizde açıkladığımız şey şuydu: ‘Hey, yeni nesil bu gücün üç katına sahip olacak.'”
Kendisi, “AMD’nin son derece agresif bir oyuncu ve oldukça yenilikçi olduğunu”, “tüm hedefinin bunu garanti altına almak olan” akıllı insanları sayesinde olduğunu açıkladı. [AMD is] Bu durumda AMD’de, şirketin rekabetçi ve kullanışlı yapay zeka işlemcileri üretmeye devam edebilmesi için GPU, CPU ve NPU’nun daha iyi genel performans için en iyi şekilde nasıl optimize edilebileceği konusunda sık sık tartışmalar yapılıyor.
Tartışmamız bizi AI bilgisayar kullanmanın yararları hakkında konuşmaya yöneltti. Ona sorduğumda Ortalama tüketicinin NPU’lu (AI PC’ler) bir bilgisayar için en çok hangi kullanım durumlarıyla ilgileneceğini düşünüyorsunuz? Woligroski, AI görevlerini yerel olarak bir AI PC’de yapabilme yeteneğinin çok önemli olduğunu söyleyerek dört temel nedeni sıraladı: daha iyi verimdaha iyi Güvenlik, kullanma yeteneği açık kaynaklı yazılım AI hizmetlerine abone olmak yerine ve NPU Bu, özellikle verimli bir yapay zeka motoru olacak şekilde yaratılmıştır.
“Yani bunlar [reasons]… İnsanlara işaret verip şöyle derdim: ‘Hey, bu donanımı bu yüzden yerel olarak istiyorsunuz.’ Bu, sunucu yapay zekasının önemli olmadığını düşünmediğimiz anlamına gelmiyor. Kesinlikle öyle. Ve sunucularda çalıştırılmaya daha uygun şeyler olacak. Ticari bir kullanıcı değilseniz buna daha açık olabilirsiniz ama bu gerçekten gelişiyor.”
hakkında konuşmayı bitirdik AI bilgisayarları, hareket halindeyken bir dizüstü bilgisayarda LLM’yi yerel olarak kullanmamıza nasıl izin veriyor? “Evet.” dedi. “Yerel olarak yüksek lisans yapmak ve ‘Bu benim dizüstü bilgisayarım. Dizüstü bilgisayarım o kadar akıllı. Ona bir şeyler söyleyebiliyorum ve o ne söylediğimi anlıyor ve tüm bunları biliyor. Bu çok tuhaf’ demek çok alçakgönüllü. ‘ 7 milyar parametreli modelin uyduğunu düşündüğüm LLaMA gibi ben de 4 gig RAM demek istiyorum. Bu çılgınlık. Bu çok küçük.”
“…Bu da yeni bir kaynak. Eğer böyle düşünürseniz, öyle değil mi? Yıllardır CPU’larımız ve GPU’larımız var. Artık bu kaynak üzerinde birçok şey yapabilirsiniz ve bu, diğer işlerinizi yavaşlatmaz. aksi takdirde buna güvenilebilirdi. Ve bu yıl bir NPU taktığımız için daha yavaş bir CPU’ya sahip değiliz. Ve daha yavaş grafiklerimiz de yok. Tam tersine, bildiğiniz gibi, yükselen dalga o seviyedeki tüm teknelere çarpıyor.”
Woligroski de bana şunu hatırlattı AI PC’lerde NPU önemli olsa da CPU ve GPU da önemli faktörlerdir. Daha da önemlisi NPU, CPU ve GPU’nun en iyi ne zaman kullanılacağını bilen bir sisteme sahip olmaktır. çeşitli görevler için.
Şöyle belirtti: “Mükemmel bir dünyada – ve sanırım gelecekte de bu olacak – işletim sisteminin tüm bu şeyleri halledebilecek kadar akıllı olacağı anlamına geliyor… İşletim sisteminin büyük bir parça olduğunu düşünüyorum. bu ve Microsoft gibi, Copilot Pro’nun muhtemelen kariyerimde birlikte oynadığım en iyi şeylerden biri olduğu gibi bu deneyimi geliştirmeye odaklanmış harika bir ortağa sahip olmak harika ve bu bir şeyler söylüyor.”
“…Yapay zeka yalnızca bir NPU sorunu değil” diye devam ediyor. “AMD’nin bunu tanımlama şekli ve Microsoft’un da bunu yeni nesil yapay zekalı bilgisayarda bir yapay zeka işlemcisi olarak tanımlayacağına inanıyorum. Bir NPU’ya ihtiyacı olacak, evet, ama aynı zamanda yine de yapay zeka hızlandırmasına da ihtiyaç duyacak.” CPU.Var [sic] CPU’nun deneyiminizi geliştirmek için yaptığı birçok şey vardır. Artık GPU’da da bir ton hızlanma var. Yani bu sadece bir şey (NPU) değil, her ne kadar bu yeni parça olduğu için herkesin aklının merkezinde olsa da… NPU kesinlikle 2024’te kendine gelecek. Ama giderek artıyor… Gerçekten bu, AI PC’nin ilk yinelemesi; yeni nesil PC gelecek. Ve bu olduğunda [here] işletim sisteminize daha fazla entegre olacak. Bu da tüm işletim sisteminizin buna daha fazla bağlı olacağı anlamına geliyor.”
Konuşmaya devam ederken Woligroski’ye AMD’nin geleceğini sordum. Özellikle soruyorum “AMD şu anda makine öğrenimi ve genel olarak yapay zeka konusunda hangi zorluklarla karşı karşıya?” Bana yapay zekanın geçmişteki bilgisayar yenilikleri ile karşılaştırıldığında çok hızlı bir şekilde geliştiğini ve önümüzdeki birkaç yıl içinde işlerin nerede olacağını bilmenin zor olduğunu söyledi. Bu, şirketin sık sık planlarını değiştirmek zorunda kalmasına neden oldu.
“İyi olan da kötüdür, değil mi?” O cevapladı. “Bunun ilerleme hızı, geleneksel bilgi işlem modellerimiz ile karşılaştırıldığında, bir yıl sonra, iki yıl sonra kristal küre oluşturmayı çok zorlaştırıyor; burada sorun yok, daha fazla GPU’ya ihtiyacımız var, daha fazla CPU’ya ihtiyacımız var ve bu miktar her yıl görünüyor gerçekten iyi olmak ve insanlar bundan hoşlanıyor. Şimdi şöyle oluyor, tamam, en çok ne vergilendirilecek? Kaynaklarımızı nereye koyacağız? Ne tür yazılımları optimize edeceğiz?
“Geçen yıl bu hedeflerin değiştiğini gördüm, bunun tek bir şey olduğunu düşündük ve sonra şöyle dedik: ah, tamam, buradaki şey oluyor ve sonra bunun üzerinde çalışalım ve ah, bu iş bitti burada. yani çok hızlı hareket ediyor. ve iyi haber şu ki, bunun gerçekçi bir şekilde devam edeceğini göremiyorum. yani, altına hücum gibi ama muhtemelen birkaç yıl içinde düşecek ve o zaman deneyimi geliştirip daha kolay ve erişilebilir hale getireceğiz ki bunu zaten yapıyoruz.”
Geleceğimizdeki AI PC’ler
Bu yıl zaten büyük bir yapay zeka bilgisayar dalgasının piyasaya çıktığını gördük ve daha fazlası da yolda. Bu bilgisayarlar zaten inanılmaz derecede etkileyici ve yerel sistemlerimizde yapay zeka görevlerini şimdiye kadar yapabildiğimizden çok daha hızlı gerçekleştirmemize olanak tanıyor. Zaman geçtikçe AMD donanımını geliştirecek ve bize daha iyi deneyimler sunacak.
Gerçekten dizüstü bilgisayar pazarında büyük bir değişimin eşiğindeyiz ve bu ilk birkaç yapay zeka bilgisayar dalgası sadece başlangıç. AMD’nin önümüzdeki yıllarda bu alanda büyümeye devam etmek için kesinlikle adımlar atacağı kesin.