Nvidia, 90 dakikalık CES açılış konuşmasında/zafer turunda pek çok yeniliği duyurdu ancak en ilgi çekici olanı Project Digits AI süper bilgisayarıydı. Mayıs ayında gelecek olan Project Digits (isim muhtemelen değişebilir), Nvidia’nın patronu Jensen Huang’ın ellerine rahatça sığacak bir form faktöründe 1 PFLOPS FP4 kayan nokta performansı getirecek.
Project Digits, Nvidia’nın DGX 100 sunucularıyla aynı konseptle kavramsallaştırıldı; tam bir üstküme çözümünün altyapı kaygıları olmadan, son kullanıcılara hazır bir yapay zeka süper bilgisayar çözümü sunmak. DGX 100 sunucu raflarına sığarken, Project Digits masaüstüne Mac Mini’ye benzer bir kaplama alanıyla sığar.
Digits, Nvidia ve MediaTek işbirliğinin ürünü olan GB10 Grace Blackwell Superchip tarafından desteklenmektedir. Nvidia’nın 1 petaFLOP performans sunan Blackwell GPU’su, NVLink C2C sayesinde 20 çekirdekli Grace CPU’lu bir kalıp üzerinde oturuyor. Süper çip, anakartta Micron’un 128 GB LPDDR5X belleği ve 4 TB NVMe SSD ile birleşiyor. Bir Nvidia ConnectX akıllı ağ bağdaştırıcısı da bilgisayarda bulunur ve NCCL, RDMA ve GPUDirect desteği sağlar.
Arm ve Nvidia, Grace Blackwell işbirliği konusunda heyecanlı görünüyor. Arm kendi basın bülteninde şunları paylaştı: “NVIDIA Grace CPU, 10 Arm Cortex-X925 ve 10 Cortex-A725 CPU çekirdeğiyle son teknoloji, en yüksek performanslı Arm Cortex-X ve Cortex-A teknolojimizi içeriyor.” Nvidia’nın SoC Ürünlerinden Sorumlu Başkan Yardımcısı Ashish Karandikar, “GB10 Superchip konusunda Arm ile işbirliğimiz, yapay zekada yeni nesil inovasyonu ateşleyecek” diye ekliyor.
Küçük bir alana sığdırılan bu olağanüstü güç, tek bir Project Digits biriminin 200 milyar yinelemeli yapay zeka büyük dil modellerini çalıştırabileceği anlamına gelir. Bağlam açısından, OpenAI’nin GPT-4o modeli 12 milyar yinelemeli bir modeldir; bu, Project Digits’in ChatGPT’yi yerel olarak çalıştırıp yapılandırabileceği anlamına gelir. Başka bir ünite ile eşleştirildiğinde “çift haneli” olarak destek 405B modellerine çıkar.
Daha büyük bir yapay zeka bilgi işlem çözümüne yerel erişim arayan son kullanıcılar, Project Digits’in hedef kitlesi olacak. Yüksek güçlü makine, donanım ve yazılım açısından yapay zekaya göre ayarlandı. Project Digits, Nvidia’nın tam AI Enterprise yazılım yığını önceden yüklenmiş olarak gelir; Daha kapsamlı bir yapay zeka çözümüne bağlanmak ve bu çözümü yönetmek için kitaplıklar, çerçeveler ve altyapı yönetimi araçları.
Rakamlar, kişinin bilgisayarı aracılığıyla bir bulut çözümüyle iletişim kurmak için bir kutu görevi görebilir veya Nvidia’nın DGX OS dağıtımında bir Linux iş istasyonu olarak kullanılabilir. Nvidia’nın beraberindeki kişi, kullanıcıların “yerel Project DIGITS sistemlerinde modellerin prototipini oluşturabileceğini, ince ayarını yapabileceğini ve test edebileceğini”, ardından bunları bulut veya yerel veri merkezi altyapısına dağıtabileceğini söylüyor basın bülteni. Şirketler veya araştırmacılar/öğrenciler, Nvidia literatürüne göre hedef kitle olarak belirlenmiş olsa da, gerçekten sadık bir hobicinin makineyi satın alması muhtemelen durdurulmayacaktır.
Huang, “Yapay zeka, her sektördeki her uygulamada ana akım olacak” dedi. “Project Digits ile Grace Blackwell Superchip milyonlarca geliştiriciye ulaşacak. Her veri bilimcinin, yapay zeka araştırmacısının ve öğrencinin masasına bir yapay zeka süper bilgisayarı yerleştirmek, onlara yapay zeka çağını şekillendirme ve etkileşim kurma gücü veriyor.” AI, Nvidia’nın bu yılki CES açılış konuşmasının ana odağıydı ve büyük ölçüde sohbet robotları ve görüntü oluşturmanın ötesindeki en değerli katkılarına odaklanıyordu.
Project Digits ile ilgilenenlerin, Digits’in 3.000 dolardan başlayan fiyatlarla piyasaya çıkacağı Mayıs ayına kadar beklemeleri gerekiyor. Oturduğumuz yerden Project Digits, boyutuna göre şaşırtıcı derecede etkileyici bir donanımdır ve DGX 100’ün yapay zeka eğitimini demokratikleştirme bayrağını taşımaya devam etmektedir. 549 dolarlık RTX 5070 de dahil olmak üzere Nvidia’nın CES açılış konuşmasının geri kalanının özeti için burayı tıklayın.
