Sambanova, yeni AI hızlandırıcısını tanıttı ve Intel ile iş birliği yaptı

Intel ve SambaNova’nın İş Birliği: Yüksek Performanslı AI Altyapısına Doğru

Teknoloji dünyasında AI (Yapay Zeka) uygulamalarının giderek artması, donanım üreticilerinin yüksek performans sunan çözümler geliştirmesini zorunlu hale getiriyor. Bu bağlamda Intel ve SambaNova’nın, Intel Xeon temelli AI çıkarımları için büyük ölçekli bir altyapı oluşturma amacıyla yaptıkları uzun vadeli stratejik iş birliği, sektördeki dinamikleri değiştirebilir. SambaNova’nın SN50 AI işlemcisi, özellikle sunucu sistemleri için geliştirilmiş olmasıyla dikkat çekiyor. Bu performans odaklı işlemci, veri merkezlerindeki büyük AI iş yüklerini verimli bir şekilde yönetmeyi vaat ediyor.

SN50: İnteraktif Çıkarımlara Yönelik Tasarım

SambaNova, AI çıkarımlarının eğitim süreçlerinden daha büyük bir pazar potansiyeline sahip olduğunu öngörerek SN50 hızlandırıcısını geliştirdi. Bu işlemci, düşük gecikme süreleriyle sesli asistanlar gibi gerçek zamanlı uygulamalar için optimize edilmiş durumda. Dual-chiplet mimarisi üzerinde kurulu olan SN50, üç katmanlı bir bellek alt yapısına sahip: SRAM, HBM ve DDR5. Bu yapı, birden fazla modeli hızlı bir şekilde geçiştirme yeteneği sunarak hem bellek kullanımı hem de güç tüketiminde verimlilik sağlıyor.

Performans Testleri: Rekorlar Kırılıyor

SambaNova’nın SN50 işlemcisi, önceki modellerine göre %500 daha fazla hesaplama gücü sunarken, aynı zamanda üç kat daha fazla ağ bant genişliği sağlıyor. Yapılan performans testlerinde, SN50’nin Llama 3.3 70B modeli üzerinde saniyede 895 token çıkarabildiği, bu sürecin Nvidia B200 modelinde ise yalnızca 184 token olduğu gözlemlendi. Bu, işlemcinin yüksek performans sağladığını ve maliyet etkinliği sunduğunu doğruluyor.

Soğutma Çözümleri ve Enerji Verimliliği

Geliştirilen SambaRack SN50 sistemi, 20 kW enerji ihtiyacı ile mevcut veri merkezi güç sınırları içinde çalışabiliyor. Soğutma ihtiyacının karşılanmasında hava soğutma teknolojisi kullanılarak sıvı soğutma ihtiyacının ortadan kaldırılması, enerji verimliliğini artırıyor. SambaRack, 16 SN50 RDU işlemcisini bir arada kullanarak, çoklu terabayt/saniye bant genişliği sunan bir sistem oluşturuyor.

Intel ile İmzalanan Anlaşma: Geleceğe Yönelik Adımlar

Intel ile oluşturulan iş birliği, SambaNova’nın çözümlerinin sunucu sistemleri için daha da ileri bir düzeye taşınmasını sağlayacak. Önümüzdeki yıllarda, bu platformlar Intel Xeon işlemcileri ile bir araya getirilerek, hem kamu sektörü hem de özel sektördeki işletmeler için uygun maliyetli AI sistemleri sağlanacak. Bu ortaklığın, SambaNova’nın veri merkezleri için yapay zeka uygulamalarında önemli bir rol oynaması bekleniyor.

SoftBank İle Anlaşma: Küresel Etki

SoftBank, yeni nesil veri merkezlerinde SN50 işlemcisini kullanarak, kendi müşterilerine yönelik yüksek performanslı ve düşük gecikmeli AI hizmetleri sunmayı amaçlıyor. Bu iş birliği, SambaNova’nın Asya-Pasifik bölgesindeki AI altyapısında merkezi bir konuma gelmesine yardımcı olacak.

Finansal Destekler: Gelecek İçin Yatırımlar

SambaNova, 350 milyon dolarlık stratejik finansmanla üretim ve bulut kapasitelerini artırmayı hedefliyor. Bu finansman, SambaNova’nın AI çıkarım pazarındaki konumunu güçlendirirken, işlemcilerinin gelişiminde de önemli bir rol oynayacak.

Sonuç olarak, Intel ve SambaNova’nın iş birliği, AI altyapısında önemli bir dönüm noktası olabilir. Yüksek performans, enerji verimliliği ve maliyet etkinliği, bu yeni nesil donanımların en büyük avantajları arasında yer alıyor. Gelecekte, bu ortaklığın sağladığı çözümler, veri merkezlerinde AI uygulamalarını daha da yaygınlaştıracak.

Kaynak: Tom’s Hardware verileriyle derlenmiştir.