Hızlı cevap: TOPS (Saniyedeki Tera İşlemleri), AI PC’lerdeki Sinir İşleme Birimi (NPU) performansını ölçmek, basitleştirmek ve tanıtmak için kullanılan bir terimdir. TOPS mükemmel bir ölçüm değildir ve birçok değişken, bir sistemin yapay zeka görevlerini ne kadar iyi yerine getirebileceğine katkıda bulunur. Yine de bir NPU’nun hızına ve rakipleriyle nasıl karşılaştırıldığına dair hızlı bir referans sağlar.
Yapay zekalı bilgisayarların dünyasına girdikçe, yeni donanım ve yetenekleri açıklayan pek çok yeni terim ve kısaltma ortaya çıkıyor.
Pek çok modern dizüstü bilgisayarın ve yakında AMD’nin Ryzen PRO 8000 duyurusunun ardından masaüstü bilgisayarların, yapay zekaya özgü performansı artırmak için Sinir İşleme Birimi (NPU) içeren işlemcilerle (CPU) birlikte gönderildiğini fark etmiş olabilirsiniz.
NPU ile birlikte performansı ölçmek için yeni bir ölçüme ihtiyaç duyuluyor ve “TOPS” terimi burada devreye giriyor. Yapay zekalı bilgisayarlar pazarı doyurmaya devam ettikçe gelecekte TOPS hakkında çok daha fazla şey duyacaksınız.
TOPS nedir?
TOPS, teknoloji dünyasında yeni bir terim değil, ancak son zamanlarda ileri teknolojiye sahip yapay zeka bilgisayarların yükselişiyle ana akım ilginin büyük bir kısmını topluyor (tanım hala belirsiz ama modern CPU, GPU, ve NPU). Windows Merkezi Editörü Rebecca Spear, NPU’ların GPU’lardan nasıl farklı olduğu hakkında daha fazla bilgi için başvurabileceğiniz harika bir makale yazdı.
TOPS basitçe bir sistemin saniyede kaç trilyon işlem gerçekleştirebileceğini gösterir. TOPS genel sistem performansını ölçmek için kullanılabilir ancak belirli donanımlara göre de bölünebilir.
Örneğin NVIDIA’nın RTX 4090 grafik kartı, ister oyun ister yapay zeka görevlerini hızlandırmak için 1.300 TOPS’un üzerinde performans sunabiliyor. Bugün piyasadaki en güçlü GPU’lardan biri, ancak bu sayı hala biraz kafa karıştırıcı.
Intel’in Core Ultra CPU’ları (şirketin NPU sunan ilk ürünü) genel olarak 34 TOPS (CPU, entegre GPU ve NPU dahil) sunuyor ve yalnızca NPU için toplamın yaklaşık 10 TOPS’u oyulmuş durumda. AMD’nin Ryzen 8040 mobil CPU’ları, NPU performansını 16 TOPS’a kadar çıkarıyor ve yakında çıkacak olan Qualcomm Snapdragon X Elite, 45 TOPS kapasiteli bir NPU ile piyasaya sürülecek.
Intel, AMD ve Qualcomm’un gelecek nesillerde NPU performansını artırmaya devam etmesi bekleniyor. Artık Intel’in yeni nesil Lunar Lake CPU’larının 45 TOPS’luk bir NPU sunacağını biliyoruz ve AMD, bir sonraki mobil yonga serisinde NPU performansını üç katına çıkarmayı beklediğini söyledi.
Bu çip üreticileri, ürünlerinin reklamını yapmak için TOPS’a yöneliyor ve bunun temel amacı performansı basitleştirmek ve alıcıların ne elde ettiklerini anlamalarına yardımcı olmak.
Yapay zeka performansı neden TOPS ile ölçülüyor?
TOPS, NPU performansını analiz ederken kesinlikle resmin tamamını temsil etmiyor. Yeni nesil konsolların henüz ufukta olduğu 2020’deki TFLOP çılgınlığı gibi, TOPS da sistem performansını basitleştirmek ve daha fazla insana tanıtmak için kullanılıyor. Rakibine göre iki veya üç kat daha fazla TOPS kapasitesine sahip bir NPU, kağıt üzerinde harika görünüyor, ancak sonuçta ölçümde nüans yok.
En azından ilk bakışta bu “Büyük sayı iyi, küçük sayı kötü” durumudur, ancak bir NPU’nun performansını etkileyebilecek çok daha fazla faktör vardır. Teorik olarak konuşursak, örneğin 100 TOPS’a sahip belirli bir NPU, farklı bir görev için ayarlanmış 200 TOPS’a sahip ayrı bir NPU’dan daha iyi performans gösterebileceği belirli bir görev için ayarlanabilir.
Bir bilgisayarın genel performansının ölçülmesi genellikle somut kıyaslama rakamlarına ve soyut gözlemlere indirgenir. Örneğin, dizüstü bilgisayar incelemelerimizde, özel test yazılımı kullanarak çok sayıda kesin rakam sağlıyoruz, ancak aynı zamanda sistemin gerçek dünya senaryolarında nasıl performans gösterdiğine dair daha genel bir “his” de sağlıyoruz.
Bir NPU’yu test etmek de ilerledikçe üzerinde çalışılması gereken bir şeydir. Yalnızca NPU’yu hedef alan kıyaslamalar mevcuttur ve bunlar, belirli görevler açısından gücü ölçme yolunda iyi bir başlangıçtır.
TOPS aynı zamanda yerleşik yapay zeka araçlarına yönelik donanım kıyaslamalarını belirlemek için de kullanılıyor. Gibi Tom’s Hardware ilk kez rapor edildiMicrosoft, Copilot’u sisteminizde Microsoft sunucularına bağlantıya bağlı kalmadan yerel olarak çalıştırmak için 40 TOPS gereksinimi belirlemiştir.
Dolayısıyla, TOPS bir NPU’nun performansını değerlendirmek için en iyi ölçüm olmasa da, alıcılara AI bilgisayarlarını kabaca karşılaştırabilecekleri bir standart sunuyor.
TOPS’u önemsemeli misiniz?
TOPS’un ölçülmesi, NPU’ları karşılaştırmanın veya bir NPU’nun belirli araçları kullanıp kullanamayacağına karar vermenin hızlı ve kolay bir yoludur. Ancak konu NPU gücü olduğunda TOPS, nihai ölçüm olarak düşünülmemelidir. İşin içinde pek çok nüans var ve önünüzdeki iş için doğru donanımı aldığınızdan emin olmak istiyorsunuz.
TOPS’u önemsemeli misiniz? Duruma göre değişir. E-posta, web’de gezinme ve üretkenlik ile ilgilenen sıradan bir bilgisayar kullanıcısıysanız, NPU’lar ve performanslarını ölçmek için kullanılan yöntemler konusunda endişelenmeden devam edebilirsiniz. Yeni bir dizüstü bilgisayar satın alıyorsanız hayatınızı kolaylaştırmaya yardımcı olabilecek belirli yapay zeka araçlarının gereksinimlerine yine de dikkat etmek isteyebilirsiniz.
Öte yandan, gelişen yapay zeka bilgisayarları dünyasıyla ilgileniyorsanız, NPU’lar ve TOPS’ta ölçülen yetenekleri muhtemelen zaten tanıdık konulardır. TOPS’un mükemmel bir ölçüm olmadığını ve bunun yerine çip üreticilerinin ürünlerini karşılaştırması ve reklamını yapması için kolay bir yol olduğunu unutmayın.