Yapay zeka, yüksek performanslı bilgi işlem için yalnızca en yeni ve en aç pazardır ve sistem mimarları, her watt’tan her performans damlasını çıkarmak için gece gündüz çalışıyor. İsveçli girişim Sıfır Noktası5 milyon Avroluk (5,5 milyon ABD Doları) yeni fonla donanmış olan , nanosaniye ölçeğinde yeni bir bellek sıkıştırma tekniğiyle onlara yardım etmek istiyor – ve evet, bu tam olarak göründüğü kadar karmaşık.
Konsept şudur: Verileri RAM’e girmeden hemen önce kayıpsız bir şekilde sıkıştırın ve daha sonra sıkıştırmayı açın, çipe küçük bir parça ekleyerek bellek kanalını etkili bir şekilde %50 veya daha fazla genişletin.
Sıkıştırma elbette bilgisayar alanında temel bir teknolojidir; ZeroPoint CEO’su Klas Moreau’nun (yukarıdaki resimde solda, kurucu ortaklar Per Stenström ve Angelos Arelakis ile birlikte) belirttiği gibi, “Bugün verileri sıkıştırmadan sabit diskte depolayamazdık. Araştırmalar bellekteki verilerin %70’inin gereksiz olduğunu gösteriyor. Peki neden hafızayı sıkıştırmıyoruz?”
Cevap şu: elimizde yok zaman. Büyük bir dosyayı depolamak için sıkıştırmak (veya video veya ses olduğunda dediğimiz gibi kodlamak) ihtiyaçlarınıza bağlı olarak saniyeler, dakikalar veya saatler sürebilen bir görevdir. Ancak veriler bellekten saniyenin çok küçük bir bölümünde geçer ve CPU’nun yapabildiği kadar hızlı bir şekilde içeri ve dışarı kaydırılır. Bellek sistemine giden bir veri paketindeki “gereksiz” bitlerin kaldırılması için tek bir mikrosaniyelik gecikme, performans açısından felaket olabilir.
Her ne kadar ikisi (birçok diğer çip bileşeniyle birlikte) ayrılmaz biçimde birbirine bağlı olsa da, bellek mutlaka CPU hızlarıyla aynı hızda ilerlemez. İşlemci çok yavaşsa veriler belleğe yedeklenir; bellek çok yavaşsa işlemci bir sonraki bit yığınını bekleyerek döngüleri boşa harcar. Tahmin edebileceğiniz gibi her şey uyum içinde çalışıyor.
Süper hızlı bellek sıkıştırması kanıtlanmış olsa da, bu ikinci bir sorunla sonuçlanır: Temel olarak, verileri sıkıştırdığınız kadar hızlı bir şekilde açmanız, orijinal durumuna geri döndürmeniz gerekir, aksi takdirde sistemin bunun nasıl yapılacağına dair hiçbir fikri olmayacaktır. halletmek için. Yani tüm mimarinizi bu yeni sıkıştırılmış bellek moduna dönüştürmediğiniz sürece bunun bir anlamı yok.
ZeroPoint, bu sorunların her ikisini de, bilgi işlem sisteminin geri kalanında gerçek bir değişiklik gerektirmeyen hiper hızlı, düşük seviyeli bellek sıkıştırmasıyla çözdüğünü iddia ediyor. Onların teknolojisini çipinize eklersiniz ve sanki hafızanızı ikiye katlamışsınızdır.
Her ne kadar en ince ayrıntılar muhtemelen sadece bu alanda çalışan insanlar tarafından anlaşılabilecek olsa da, Moreau’nun bana açıkladığında da kanıtladığı gibi, temel bilgiler bu alanda çalışmayanlar için yeterince kolaydır.
“Yaptığımız şey, çok küçük miktarda veri (bir önbellek hattı, bazen 512 bit) almak ve içindeki kalıpları tanımlamaktır” dedi. “Verinin doğası gereği çok verimli olmayan bilgilerle, seyrek olarak konumlandırılmış bilgilerle doludur. Verilere bağlıdır: Ne kadar rastgele olursa, o kadar az sıkıştırılabilir. Ancak çoğu veri yüklemesine baktığımızda 2-4 kat aralığında olduğumuzu görüyoruz. [more data throughput than before].”
Belleğin sıkıştırılabileceği bir sır değil. Moreau, büyük ölçekli hesaplama alanında çalışan herkesin bu olasılığı bildiğini (bana bunu gösteren 2012 tarihli bir makale gösterdi), ancak bunun akademik ve büyük ölçekte uygulanmasının imkansız olduğunu söyleyerek bir kenara not ettiğini söyledi. Ancak ZeroPoint’in sıkıştırma sorunlarını (sıkıştırılmış verileri daha verimli olacak şekilde yeniden düzenleme) ve şeffaflığı çözdüğünü, böylece teknolojinin yalnızca çalışmakla kalmayıp mevcut sistemlerde oldukça sorunsuz bir şekilde çalıştığını söyledi. Ve bunların hepsi bir avuç nanosaniyede gerçekleşiyor.
“Hem yazılım hem de donanım olarak çoğu sıkıştırma teknolojisi binlerce nanosaniye mertebesindedir. CXL [compute express link, a high-speed interconnect standard] Moreau, “Bunu yüzlerce kişiye indirebiliriz” dedi. “Bunu 3 veya 4’e indirebiliriz”
İşte CTO Angelos Arelakis bunu kendi yöntemiyle açıklıyor:
ZeroPoint’in piyasaya sürülmesi kesinlikle tam zamanında; dünyanın dört bir yanındaki şirketler, yeni nesil yapay zeka modellerini eğitmek için daha hızlı ve daha ucuz bilgi işlem arayışında. Hiper ölçekleyicilerin çoğu (eğer onlara öyle dememiz gerekiyorsa) watt başına daha fazla güç verebilecek veya elektrik faturasını biraz düşürmelerine olanak tanıyacak her türlü teknolojiye meraklıdır.
Tüm bunlara yönelik birincil uyarı, belirtildiği gibi, bunun çipe dahil edilmesi ve sıfırdan entegre edilmesi gerektiğidir – bir ZeroPoint dongle’ını rafa öylece yerleştiremezsiniz. Bu amaçla şirket, yüksek performanslı bilgi işlem için standart çiplere yönelik teknik ve donanım tasarımını lisanslamak üzere çip üreticileri ve sistem entegratörleriyle birlikte çalışıyor.
Tabii ki bunlar sizin Nvidia’larınız ve Intel’lerinizdir, ancak giderek artan oranda Meta, Google ve Apple gibi yapay zeka ve diğer yüksek maliyetli görevleri dahili olarak yürütmek için özel donanımlar tasarlayan şirketler de söz konusudur. ZeroPoint, teknolojisini birinci sınıf değil, maliyet tasarrufu olarak konumlandırıyor: Muhtemelen, belleği etkili bir şekilde iki katına çıkararak teknoloji çok geçmeden kendi masrafını çıkarır.
Az önce tamamlanan 5 milyon Avroluk A turu Matterwave Ventures tarafından yönetildi; Industrifonden yerel İskandinav liderliğini üstlendi ve mevcut yatırımcılar Climentum Capital ve Chalmers Ventures da katkıda bulundu.
Moreau, paranın ABD pazarlarına açılmalarına ve halihazırda peşinde oldukları İsveç pazarlarını ikiye katlamalarına olanak tanıması gerektiğini söyledi.