Nvidia’nın pazar üzerindeki benzersiz hakimiyeti devam etmekte, ancak rakipler ve seçenekler her yönden ortaya çıkıyor.
Fransız AI girişimi ZML, Turing Ödülü sahibi Yann LeCun’un onayını alarak, Nvidia, AMD, Google’ın TPU’su, Apple Metal ve Intel Arc gibi çeşitli yongalarda açık kaynaklı büyük dil modellerinin çalıştırılmasına olanak tanıyan bir tahmin performans yazılımı geliştirdi.
Yenilikçi LLM tahmin sunucusu ZML/LLMD ile ZML, mevcut engelleri aşmayı ve AI kullanım senaryoları için farklı yongaları maksimum hızda kullanıma sunmayı hedefliyor. ZML’in kurucusu Steeve Morin, bu amaçla çalıştıklarını TechCrunch’a açıkladı.
AI, iş ve günlük yaşamımıza entegre oldukça tahmin optimizasyonu, model eğitimini geçecek derecede ön plana çıkıyor. Ancak çoğu zaman arka planda yazılım ve mimari engeller sebebiyle karmaşık bir hal alıyor. Morin, bu durumun satıcı bağımlılığına yol açtığını belirtti.
Çeşitli yongalar arasında en yüksek performansa ulaşma vaadi, bir teknolojik başarı olmasının yanında pazarı da sarsabilecek bir potansiyele sahip. AI ile ilgili maliyet kaygıları giderek artmakta.
ZML, işletmelere ve bulut hizmetlerine daha düşük maliyetli veya enerji tüketimi daha az olan çipleri bir arada kullanma seçeneğini sunmayı umuyor. Morin, “Amaç, insanlara kendi sistemlerini oluşturmak ve gerçek verimlilik kazançları sağlamak için güç vermek,” dedi.
Bu tür yazılım yardımcıları, büyük ölçüde Avrupa merkezli birçok yeni AI çip üreticisine destek olabilir. Morin, Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud ve VSORA‘dan bahsetti. Ancak onun için ZML’nin bu şirketlerle “dünyada daha önce yapılmamış şeyler üzerinde çalışabilmesi” önem taşıyor.
Morin, Nvidia ile kötü bir ilişkisi olmadığını da vurguladı. ZML’in yapay zeka çip devleriyle iyi bir ilişkisi olduğunu belirtti ve Nvidia’nın tahmin alanındaki yükselişi için hazırlandığını söyledi.
Tahmin alanı, o kadar büyük bir yatırım aldı ki, bu trend “tahmin altın madeni” olarak adlandırılıyor. ZML, $13 milyar değerlemeye sahip Baseten ve vLLM gibi rakiplerle karşı karşıya.
Her iki firma, ZML/LLMD ile kısmen rekabet ediyor. Ancak Morin’in ZML için hedefleri daha geniş bir yelpazeye yayılıyor. “Çipleri birlikte tasarlama noktasına ulaştık,” dedi. Paris merkezli startup’ın 20 kişilik küçük ekibinin hızlı hareket etmesini sağladığını da sözlerine ekledi.
Bu küçük ekip, aynı zamanda iyi bir finansman desteğine sahip. Zenly’in mühendislik başkanlığı görevinden gelen deneyimi sayesinde Morin, 20 milyon dolar yatırım topladı.
ZML’in ilk kamu projesi olan, 2024’te çıkan tahmin odaklı ML çerçevesi açık kaynakken, ZML/LLMD açık kaynak değil. Ancak kullanımının öğrenilmesi hedefiyle ücretsiz olarak piyasaya sürülüyor. Morin, “Ölçmeyi ve ardından en etkili olduğu yerden gelir elde etmeyi tercih ediyorum,” dedi.
ZML/LLMD’nin ne zaman ücretli bir ürüne dönüşeceği ve benimsenmesinin ne olacağı henüz belirsiz. Ancak startup’ın yatırımcıları arasında dikkat çeken isimler var; Dagger ve Docker kurucusu Solomon Hykes, Hugging Face’ten Clément Delangue ve Julien Chaumond gibi kişiler, LeCun, şimdi AMI Labs ile iş yapıyor. Bu durum, Avrupa’daki AI startup’larının evde büyüyebileceğini gösteriyor. Morin, “ZML’i başka bir yerde yapamazdım,” dedi.
Makalelerimizdeki bağlantılar üzerinden yapacağınız alışverişler ile küçük bir komisyon kazanabiliriz. Bu durum, editoryal bağımsızlığımızı etkilemez.
