Yapay zeka (AI) uygulamaları, günümüzde teknoloji dünyasının en heyecan verici alanlarından birisi haline geldi. Ancak bu alanın karşılaştığı en büyük zorluklardan biri, işlem gücünün artışıyla birlikte bellek bant genişliğinin yetersiz kalmasıdır. Qualcomm, bu sorunu çözmek için tanıttığı yüksek bant genişlikli hesaplama (HBC) mimarisi ile sektördeki gelişmeleri yeni bir boyuta taşımayı hedefliyor. Bu yeni teknoloji, sunucu sistemlerinde ve veri merkezlerinde yüksek performansı artıracak önemli bir adım olarak öne çıkıyor.
Qualcomm’un HBC Yaklaşımı
Qualcomm’un HBC mimarisi, AI hızlandırıcısını sistem üzerindeki çip (SoC) yapısından ayırarak, bu hızlandırıcıyı LPDDR DRAM katmanının altına yerleştiriyor. HBC işlemcisi, LPDDR yığınlarına üzerinden silikon delikler (through-silicon vias) kullanarak bağlanarak maksimum bant genişliği ve kapasite sağlıyor. Böylelikle, maliyetli yüksek bant genişlikli bellek (HBM) kullanmadan ciddi bir performans artışı sağlanıyor. Qualcomm, HBC’nin sunduğu gerçek bant genişliğini açıklamasa da, HBC’nin HBM’e kıyasla 6 kat daha fazla bant genişliği verimliliği sunacağını ve yığılı bellek ile karşılaştırıldığında 200 kat daha fazla kapasite sunduğunu iddia ediyor.
Performans Avantajları
Qualcomm’un Veri Merkezi İş Birimi Genel Müdürü Tony Pialis, HBC mimarisinin, bellek yoğun yapılar için avantajlar sunduğunu belirtiyor. HBC, HBM ile ilgili sıkışıklığı ortadan kaldırarak, daha düşük güç tüketimi, daha az ısı ve maliyetli silikon ara parçaların gerekliliğini ortadan kaldırıyor. Bu sayede, tek bir hesaplama cihazında birden fazla HBC yığını kullanarak standart paketlemelerle önemli bir performans ve maliyet avantajı sağlanıyor.
Diğer Yaklaşımlar ve Karşılaştırmalar
Yakın bellek hesaplama yapıları, yalnızca Qualcomm ile sınırlı değil. DRAM üreticileri, yakın bellek hesaplama mimarileri üzerinde uzun süredir deneyler yapıyorlar. Örneğin, GUC adlı bir tasarım hizmeti şirketi, kendi DRAM-on-Logic (DoL) teknolojisini önerdi. Bu teknoloji, birden fazla DRAM katmanını lojik yapıların üzerine yerleştirerek 5 TB/sn’ye kadar bellek bant genişliği sunuyor. Ancak Qualcomm’un sunmuş olduğu HBC çözümlerinin, GUC’nin sundukları ile tam olarak nasıl kıyaslandığı belirsizliğini koruyor, zira HBC hızlandırıcısının ne tür işlemler gerçekleştirdiği konusunda detaylar hala net değil.
Gelecek Roadmap’i
Qualcomm, HBC teknolojisi ile birlikte bir yol haritası da açıkladı. 2023 yılı sonlarında tanıtılması planlanan AI200 hızlandırıcısı, LPDDR5X’e dayanacak ve her rack’te 43 TB RAM sunacak. Ondan sonraki AI250 modelinin, 1. nesil HBC ile 18 kat daha fazla bant genişliği sunması bekleniyor. AI300 ise 2. nesil HBC kullanarak 54 kat bant genişliği sağlayacak.
Sonuç olarak, Qualcomm’un HBC teknolojisi, sunucu sistemlerinde ve veri merkezlerindeki bellek duvarını aşmayı hedefliyor ve yapay zeka hızlandırıcılarının verimliliğini önemli ölçüde artırabilir. Yüksek performans, düşük maliyet ve enerji verimliliği ile teknoloji dünyasında önemli bir dönüm noktası olma potansiyeli taşıyor.
Kaynak: Tom’s Hardware verileriyle derlenmiştir.
