Fotonik bilgi işlem başlangıcı Hafif madde hızla büyüyen AI hesaplama pazarında, endüstrinin seviyesini yükseltmeye yardımcı olacağını iddia ettiği bir donanım-yazılım kombinasyonuyla büyük bir adım atıyor ve önyükleme için çok fazla elektrik tasarrufu sağlıyor.
Lightmatter’ın çipleri temel olarak matris vektör ürünleri gibi hesaplama işlemlerini çözmek için optik akışı kullanır. Bu matematik, birçok AI çalışmasının merkezinde yer alır ve şu anda bu konuda uzmanlaşmış ancak geleneksel silikon kapılar ve transistörler kullanan GPU’lar ve TPU’lar tarafından gerçekleştirilir.
Bunlarla ilgili sorun, belirli bir güç veya boyut için yoğunluk ve dolayısıyla hız sınırlarına yaklaşıyor olmamızdır. İlerlemeler hala yapılıyor ama büyük bir maliyetle ve klasik fiziğin sınırlarını zorluyor. GPT-4 gibi eğitim modellerini mümkün kılan süper bilgisayarlar çok büyüktür, çok büyük miktarlarda güç tüketir ve çok fazla atık ısı üretir.
“Dünyanın en büyük şirketleri bir enerji duvarına çarpıyor ve yapay zeka ölçeklenebilirliği konusunda büyük zorluklar yaşıyor. Geleneksel yongalar, soğutmanın mümkün olduğu sınırları zorluyor ve veri merkezleri giderek daha büyük enerji ayak izleri üretiyor. Lightmatter CEO’su ve kurucusu Nick Harris, “Veri merkezlerinde yeni bir çözüm uygulamazsak AI ilerlemeleri önemli ölçüde yavaşlayacak” dedi.
“Bazıları, tek bir büyük dil modelinin eğitiminin, ABD’deki 100 evin bir yılda tükettiğinden daha fazla enerji tüketebileceğini öngördü. Ek olarak, yeni bilgi işlem paradigmaları oluşturulmazsa, dünyanın toplam gücünün %10 ila %20’sinin on yılın sonuna kadar yapay zeka çıkarımına gideceği tahmin ediliyor.”
Lightmatter, elbette, bu yeni paradigmalardan biri olmayı amaçlıyor. Yaklaşımı, en azından potansiyel olarak, daha hızlı ve daha verimli, mikroskobik optik dalga kılavuzları dizilerini kullanarak ışığın temelde mantık işlemlerini sadece içinden geçerek gerçekleştirmesine izin veriyor: bir tür analog-dijital hibrit. Dalga kılavuzları pasif olduğundan, ana güç çekimi ışığın kendisini oluşturmak, ardından çıktıyı okumak ve işlemektir.
Bu optik bilgi işlem biçiminin gerçekten ilginç bir yönü, aynı anda birden fazla renk kullanarak çipin gücünü artırabilmenizdir. Mavi bir işlemi yaparken kırmızı başka bir işlem yapar – pratikte daha çok 800 nanometre dalga boyunun birini, 820’nin diğerini yapmasına benzer. Elbette bunu yapmak önemsiz değil, ancak bu “sanal çipler” dizide yapılan hesaplama miktarını büyük ölçüde artırabilir. İki kat renk, iki kat güç.
Harris şirketi, kendisi ve ekibinin MIT’de yaptığı (ilgili patentleri onlara lisanslayan) optik bilgi işlem çalışmasına dayalı olarak kurdu ve 2018’de 11 milyon dolarlık bir tohum toplamayı başardı. bilim projesi”, ancak Harris 2021’de teknolojinin “prensipte” çalışması gerektiğini bilmelerine rağmen, onu çalışır hale getirmek için yapacak çok şey olduğunu itiraf etti. Şans eseri, bunu bana yatırımcıların şirkete 80 milyon dolar daha yatırması bağlamında söylüyordu.
Şimdi Lightmatter, 154 milyon dolarlık bir C raund topladı ve asıl çıkışına hazırlanıyor. Tam Envise (bilgi işlem donanımı), Passage (ara bağlantı, büyük bilgi işlem operasyonları için çok önemli) ve Harris’in makine öğrenimi geliştiricilerinin hızla uyum sağlamasına izin vermesi gerektiğini söylediği bir yazılım platformu olan Idiom ile devam eden birkaç pilot çalışması var.
Esaret altında bir Lightmatter Envise birimi. Görsel Kaynakları: Hafif madde
“PyTorch ve TensorFlow ile sorunsuz bir şekilde entegre olan bir yazılım yığını oluşturduk. Makine öğrenimi geliştiricileri için iş akışı buradan itibaren aynıdır – bu endüstri standardı uygulamalarda yerleşik sinir ağlarını alıp kitaplıklarımızı içe aktarırız, böylece tüm kodlar Envise üzerinde çalışır,” diye açıkladı.
Şirket, hızlanmalar veya verimlilik iyileştirmeleri hakkında herhangi bir özel iddiada bulunmayı reddetti ve farklı bir mimari ve bilgi işlem yöntemi olduğu için elmalar arası karşılaştırmalar yapmak zor. Ama kesinlikle bir büyüklük sırasına göre konuşuyoruz, cimri bir %10 veya %15 değil. Ara bağlantı benzer şekilde yükseltilir, çünkü bu seviyedeki işlemenin tek bir panoda izole edilmesi işe yaramaz.
Elbette bu, dizüstü bilgisayarınızda kullanabileceğiniz türden genel amaçlı bir çip değil; bu göreve oldukça özeldir. Ancak bu ölçekte görev özgüllüğünün olmaması yapay zeka gelişimini engelliyor gibi görünüyor – ancak “geri tutmak” çok hızlı ilerlediği için yanlış bir terim. Ancak bu gelişme son derece maliyetli ve hantal.
Pilot uygulamalar beta aşamasında ve 2024 için seri üretim planlanıyor; bu noktada, muhtemelen veri merkezlerinde konuşlandırmak için yeterli geri bildirime ve olgunluğa sahip olmaları gerekiyor.
Bu turun finansmanı SIP Global, Fidelity Management & Research Company, Viking Global Investors, GV, HPE Pathfinder ve mevcut yatırımcılardan geldi.