Özel olarak yayınlanan teknik incelemeTakyum Cuma günü duyuruldu Prodigy evrensel işlemcisinin henüz banttan çıkarılması gereken kısaltılmış bir versiyonuna dayanan yapay zeka odaklı bir iş istasyonu olan Prodigy ATX Platformu. Şirket, birimi 5000 dolara satmayı planlıyor ve makinenin milyarlarca (veya trilyonlarca) parametreye sahip büyük dil modellerine erişimi demokratikleştireceğini iddia ediyor. Ancak şirket, ürünün ne zaman satışa sunulacağını açıklamadı.
Prodigy ATX Platformu, 5,70 GHz’e kadar çalışan 96 çekirdekli Prodigy işlemciyi (2024’te TSMC’nin 5nm düğümünde toplu olarak üretilmesi öngörülüyor) temel alıyor. Tachyum, CPU’nun güç tüketimini azaltmak ve verimi artırmak için kalıbının yalnızca yarısının etkinleştirildiği, bunun da maliyetleri azaltmaya ve platformu daha erişilebilir hale getirmeye yardımcı olduğu söyleniyor.
İşlemciden bahsetmişken, Prodigy’nin 2019’daki bant çıkışının ardından ilk olarak 2020 için planlanan sürümünün, herhangi bir prototip gösterilmeden giderek daha abartılı performans iddiaları nedeniyle defalarca – 2021, 2022 ve ardından 2023’e – ertelendiğini belirtmemiz gerekiyor. Şimdi, şirketin son planı Prodigy işlemcinin lansmanını 2024’ün ikinci yarısı için öngörüyor, ancak detaylandırmadan, bu Aralık 2024 anlamına gelebilir.
Makinenin, 16 bellek modülü kullanan ve 819,2 GB/s’lik en yüksek bant genişliği sunan 1 TB DDR5-6400 SDRAM ile donatılmış olması bekleniyor. Sistemin üç adet PCIe x16 5.0 yuvası, PCIe 5.0 x4 arayüzlü üç adet M.2-2280 NVMe yuvası ve SSD’ler ve HDD’ler için SATA konektörleri içermesi bekleniyor.
Bir ATX kutusu olan sistem, USB, HDMI ve Ethernet de dahil olmak üzere böyle bir makineden beklenebilecek tüm I/O konektörlerini sunmayı vaat ediyor. Ayrıca anakartta Aspeed’in AST2600 kart yönetim denetleyicisi de yer alacak.
Şimdilik Tachyum, Prodigy ATX Platform anakartının blok şemasını ve üzerinde kendi adının yazılı olduğu boş gri PC kasasını yayınladı.
Prodigy ATX Platformunun odak noktası, önceden eğitilmiş modelleri çıkarım için kullanmak ve işlemcinin mimari özellikleri sayesinde bunu daha verimli bir şekilde yapmaktır. Tachyum, trilyon parametreli bir modelin FP8 kullanarak 2,04 TB bellek gerektirdiğini söylüyor. Ancak Tachyum’un 4 bit ağırlık formatına sahip 4 bit TAI seyrek özelliğini benimseyerek bellek gereksinimleri önemli ölçüde 765 GB’a düşüyor, bu da sistem belleğinin 1 TB sınırı dahilinde daha büyük modellerin desteklenmesini mümkün kılıyor.
Tachyum, 1TB RAM’e sahip tek bir 96 çekirdekli Prodigy işlemciden güç alan bir sistemin, 1,7 trilyon parametreli ChatGPT4 modeli üzerinde çıkarımlar yapabileceğini, ‘oysa aynı şeyi çok daha yüksek maliyet ve güç tüketimiyle çalıştırmak için 52 adet Nvidia H100 GPU’ya ihtiyaç duyduğunu belirtti. .’
Tachyum’un kurucusu ve CEO’su Dr. Radoslav Danilak bir basın açıklamasında “Üretken yapay zeka, herkesin başlangıçta beklediğinden çok daha hızlı bir şekilde yaygın olarak kullanılacak” dedi. “Bir veya iki yıl içinde yapay zeka, iyi bir kullanıcı deneyimi sağlamak için web sitelerinde, sohbet robotlarında ve diğer kritik üretkenlik bileşenlerinde gerekli bir bileşen olacak. Prodigy’nin güçlü yapay zeka yetenekleri, LLM’lerin mevcut CPU + GPGPU’dan çok daha kolay ve daha uygun maliyetli çalışmasını sağlıyor. tabanlı sistemler, aksi takdirde sektörlerindeki en büyük oyuncuların hakim olacağı yapay zeka girişimlerinde rekabet edebilmeleri için her büyüklükteki kuruluşa güç veriyor.”
Tachyum, Prodigy platformunu popülerleştirmeyi başarabilirse, yeterli işlemci sağlaması koşuluyla yapay zeka cephesinde oyunun kurallarını gerçekten değiştirebilir. Ancak çalışan silikonun eksikliği göz önüne alındığında bunun gerçekten gerçekleşip gerçekleşmeyeceği belli değil. Ayrıca Tachyum’un Prodigy işlemcilerinin seri üretimine tam olarak ne zaman başlayacağı ve bunları ne zaman toplu olarak kullanıma sunmayı planladığı da belli değil.
Prodigy ATX Platformu söz konusu olduğunda, şirketin ekonomik açıdan sürdürülebilirliği konusunda bazı makul şüphelerimiz var. 16 adet 64 GB RDIMM Birim başına 240$ maliyeti 3.840 dolardır, gelişmiş bir voltaj düzenleme modülüne sahip son derece özel çok katmanlı bir anakart (burada 12 – 16 katmandan bahsediyoruz) 500 dolara mal olabilir (nispeten düşük hacimli bir anakart grubundan bahsediyoruz, bunlar pahalıdır) ), 2000 W’lık bir PSU’nun maliyeti yaklaşık 300 ABD Doları, güvenilir soğutuculara sahip iyi bir kasanın fiyatı ise 150 ABD Doları civarındadır. Tachyum’un Prodigy işlemcisi olmadan bile sistem bir araya getirildiğinde yaklaşık 4800 dolara ulaşıyor.
Elbette, şirket hacimli alımlar yaptığı için bu çok daha düşük bir maliyetle sonuçlanacaktır, ancak Prodigy silikonu da muhtemelen pahalı olduğundan, çıkarım için tasarlanan platformun Tachyum için ekonomik açıdan uygun bir ürün olup olmayacağını merak edebiliriz. Ve tabii ki şirketin sıklıkla geciken lansman programına yönelik artan şüpheler de var.