Yapay zeka çok revaçta; özellikle de büyük dil modelleri olarak da bilinen metin üreten yapay zeka (ChatGPT benzeri modelleri düşünün). Yakın zamanda anket Yaklaşık 1.000 kurumsal kuruluşun %67,2’si, büyük dil modellerini (LLM) benimsemeyi 2024’ün başlarında en büyük öncelik olarak gördüklerini söylüyor.
Ama önlerine engeller çıkıyor. Aynı ankete göre, özelleştirme ve esneklik eksikliği, şirket bilgisinin ve fikri mülkiyetin korunamamasıyla birleştiğinde, birçok işletmenin Yüksek Lisans’ları üretimde kullanmasını engelliyordu ve hala da öyle.
Bu, Varun Vummadi ve Esha Manideep Dinne’nin şunu düşünmesine neden oldu: Kurumsal yüksek lisans benimseme sorununa çözüm nasıl olabilir? Birini bulmak için kurdular Giga MLşirketlerin LLM’leri şirket içinde dağıtmasına olanak tanıyan bir platform inşa eden bir girişim olan ve görünüşte maliyetleri düşüren ve süreçte gizliliği koruyan bir girişim.
Vummadi, TechCrunch’a bir e-posta röportajında şunları söyledi: “Veri gizliliği ve LLM’lerin özelleştirilmesi, işletmelerin sorunları çözmek için LLM’leri benimserken karşılaştığı en büyük zorluklardan bazılarıdır.” “Giga ML bu iki zorluğu da ele alıyor.”
Giga ML, kod oluşturma ve genel müşteri sorularını yanıtlama (örn. “Siparişimin ne zaman gelmesini bekleyebilirim?”) gibi görevler için kendi LLM seti olan “X1 serisini” sunar. Başlangıç, Meta’nın Llama 2’si üzerine inşa edilen modellerin, özellikle MT-Tezgah diyaloglar için test seti. Ancak X1’in niteliksel olarak nasıl karşılaştırıldığını söylemek zor; bu muhabir Giga ML’leri denedi çevrimiçi demo ancak teknik sorunlarla karşılaştık. (Hangi istemi yazarsam yazayım uygulama zaman aşımına uğradı.)
Giga ML’nin modelleri olsa bile öyle bazı açılardan üstün olsalar da, açık kaynak, çevrimdışı Yüksek Lisans okyanusunda gerçekten bir sıçrama yapabilirler mi?
Vummadi ile konuşurken, Giga ML’nin piyasadaki en iyi performansa sahip LLM’leri yaratmaya çalışmaktan çok, işletmelerin üçüncü taraf kaynaklara güvenmek zorunda kalmadan LLM’lere yerel olarak ince ayar yapmalarına olanak tanıyan araçlar geliştirdiği hissine kapıldım. platformlar.
Vummadi, “Giga ML’nin misyonu, işletmelerin LLM’leri kendi şirket içi altyapılarında veya sanal özel bulutlarında güvenli ve verimli bir şekilde dağıtmalarına yardımcı olmaktır” dedi. “Giga ML, LLM’lerin eğitim, ince ayar yapma ve çalıştırma sürecini, kullanımı kolay bir API aracılığıyla hallederek basitleştiriyor ve ilgili tüm zorlukları ortadan kaldırıyor.”
Vummadi, modelleri çevrimdışı çalıştırmanın gizlilik avantajlarını vurguladı; bu avantajlar bazı işletmeler için muhtemelen ikna edici olabilir.
Düşük kodlu yapay zeka geliştirme platformu Predibase, hassas veya özel verilerin satıcılarla paylaşılması konusundaki endişeler nedeniyle işletmelerin dörtte birinden azının ticari LLM’leri kullanma konusunda rahat olduğunu tespit etti. Ankete katılanların yaklaşık %77’si, gizlilik, maliyet ve kişiselleştirme eksikliği ile ilgili sorunları öne sürerek üretimdeki prototiplerin ötesinde ticari LLM’leri ya kullanmadıklarını ya da kullanmayı planlamadıklarını söyledi.
“C-suite düzeyindeki BT yöneticileri, Giga ML’nin tekliflerini, LLM’lerin güvenli şirket içi dağıtımı, özel kullanım durumlarına göre uyarlanmış özelleştirilebilir modeller ve veri uyumluluğu ve maksimum verimlilik sağlayan hızlı çıkarım nedeniyle değerli buluyor.” dedi Vummadi.
Bugüne kadar Nexus Venture Partners, Y Combinator, Liquid 2 Ventures, 8vdx ve diğer birkaç kişiden yaklaşık 3,74 milyon $ VC finansmanı toplayan Giga ML, yakın vadede iki kişilik ekibini büyütmeyi ve ürün Ar-Ge’sini artırmayı planlıyor. Sermayenin bir kısmı da Giga ML’nin müşteri tabanını desteklemeye gidiyor. Vummadi, şu anda finans ve sağlık alanındaki isimsiz “kurumsal” şirketleri de içerdiğini söyledi.