Intel ve SambaNova’dan Yeni Heterojen Inferans Mimari
Son yıllarda yapay zeka ve veri merkezi teknolojileri, endüstri standartlarını köklü bir şekilde değiştirmekte. Intel ve SambaNova, bu değişimden pay alacak önemli bir adım atarak heterojen inferans mimarilerini tanıttı. Yeni platform, yüksek performans sunarak sunucu sistemleri içinde daha verimli tanımsal çözümler sağlamayı amaçlıyor.
Teknik Özellikler
Bu yeni sistemde, yapay zeka hızlandırıcıları veya GPU’lar, uzun istemlerin işlenmesi ve anahtar-değer önbelleklerin oluşturulmasında kullanılacak. SambaNova’nın yeniden yapılandırılabilir veri akışı birimleri (RDU) SN50, kod çözme ve token oluşturma aşamalarını gerçekleştirecek. Intel Xeon 6 işlemcileri ise, yani agentik araçlar ve sistem orkestrasyonu için gerekli olan işlemleri yerine getirecek. Bu yapı, Nvidia ve diğer rakiplerin pazarından pay almak amacıyla geniş bir iş yükü yelpazesi için tasarlandı.
Performans Testleri
Heterojen inferans platformu, işlemleri aşamalara ayırarak ayrı donanımlar tarafından yönetiyor. Bu yaklaşım, Nvidia’nın Rubin platformuna benzer bir yöntemle çalışıyor; fakat bu işlem mimarisi Xeon 6 işlemcilerine dayanmaktadır. Intel’in sunduğu Xeon 6 işlemcileri, piyasadaki diğer x86 işlemcilerine göre daha hızlı bilgi işleme kabiliteleri ile dikkat çekiyor. Örneğin, Xeon 6’nın LLVM derleme süresi, Arm tabanlı sunucu işlemcilerine göre %50 daha hızlıdır.
Veri Merkezleri ve Uyumluluk
Yeni yapı, veri merkezleri tarafından kolayca entegre edilebilir bir tasarıma sahip. 30kW kapasiteli veri merkezleri, yeni SambaNova SN50 ve Xeon bazlı sunucuları sorunsuz bir şekilde çalıştırabilecek. Intel’in Veri Merkezleri Grubu Genel Müdürü Kevork Kechichian, “Gelecekteki iş yükleri, heterojen bir hesaplama karışımını gerektirecek. SambaNova ile yapılan iş birliği, maliyet etkin ve yüksek performanslı bir inferans mimarisi sunarak müşteri ihtiyaçlarını karşılayacak.” dedi.
Soğutma Çözümleri
Yüksek performans sunan sistemler, genellikle yoğun ısı üretir. Bu nedenle, soğutma çözümleri, veri merkezlerinin verimliliğini korumak için kritik öneme sahiptir. Yeni yapı, etkili bir soğutma mekanizması ile donatılacak, bu da ekipmanın uzun ömürlü olmasını sağlayacaktır. Verimli bir soğutma, sistemin yüksek performansını koruyacak ve soğutma maliyetlerini optimize edecek.
Sonuç
Intel ve SambaNova’nın ortak çalışması, veri merkezleri için geleceğe yönelik yüksek performanslı ve ölçeklenebilir bir platform sunma potansiyeline sahip. İkinci yarıda piyasaya sürülecek olan bu çözüm, özellikle yazılım geliştirme döngülerini kısaltmayı hedefliyor ve sunduğu avantajlarla pazarında dikkat çekecektir.
Kaynak: Tom’s Hardware verileriyle derlenmiştir.
