Geleneksel işlemcilerden daha hızlı üretken AI modellerini çalıştırmak için çipler geliştiren bir girişim olan Groq, Pazartesi günü Blackrock liderliğindeki yeni bir finansman turunda 640 milyon dolar topladığını söyledi. Neuberger Berman, Type One Ventures, Cisco, KDDI ve Samsung Catalyst Fund da katıldı.
Groq’un toplam gelirini 1 milyar doların üzerine çıkaran ve şirketin değerini 2,8 milyar dolar olarak belirleyen dilim, başlangıçta bildirildiğine göre Groq için büyük bir kazanç. yükseltmek istiyor 300 milyon dolar biraz daha düşük (2,5 milyar dolar) değerleme. Groq’un önceki değerlemesinin (~1 milyar dolar) iki katından fazlasına ulaştı; şirket, Tiger Global Management ve D1 Capital Partners liderliğindeki bir turda 300 milyon dolar topladı.
Meta’nın baş AI bilimcisi Yann LeCun, Groq’a teknik danışman olarak hizmet verecek ve Intel’in dökümhane işinin eski başkanı ve HP’nin eski CIO’su Stuart Pann, Groq’un bugün duyurduğu üzere, girişime baş operasyon görevlisi olarak katılacak. LeCun’un atanması, Meta’nın kendi AI çiplerine yaptığı yatırımlar göz önüne alındığında biraz beklenmedik bir durum – ancak şüphesiz Groq’a acımasız bir alanda güçlü bir müttefik sağlıyor.
2016’da gizlilikten çıkan Groq, LPU (dil işleme birimi) çıkarım motoru adını verdiği bir şey yaratıyor. Şirket, LPU’larının OpenAI’nin ChatGPT ve GPT-4o’suna benzer mimariye sahip mevcut üretken AI modellerini 10 kat daha hızlı ve onda bir enerjiyle çalıştırabileceğini iddia ediyor.
Groq CEO’su Jonathan Ross’un şöhret iddiası, Google’ın modelleri eğitmek ve çalıştırmak için kullanılan özel AI hızlandırıcı çipi olan tensör işleme birimini (TPU) icat etmeye yardımcı olmasıdır. Ross, yaklaşık on yıl önce Groq’u kurmak için Google’ın ana şirketi Alphabet’in X moonshot laboratuvarında girişimci ve eski mühendis olan Douglas Wightman ile birlikte çalıştı.
Groq, Meta’nın Llama 3.1 ailesi, Google’ın Gemma, OpenAI’nin Whisper ve Mistral’in Mixtral gibi “açık” modeller sunan ve müşterilerin bulut örneklerinde yongalarını kullanmalarına olanak tanıyan bir API sunan GroqCloud adlı LPU destekli bir geliştirici platformu sağlıyor. (Groq ayrıca geçen yılın sonlarında piyasaya sürdüğü AI destekli sohbet robotları için bir oyun alanı olan GroqChat’e de ev sahipliği yapıyor.) Temmuz itibarıyla GroqCloud’un 356.000’den fazla geliştiricisi vardı; Groq, turdan elde edilen gelirin bir kısmının kapasiteyi ölçeklendirmek ve yeni modeller ve özellikler eklemek için kullanılacağını söylüyor.
Groq’un COO’su Stuart Pann, TechCrunch’a “Bu geliştiricilerin çoğu büyük işletmelerde çalışıyor” dedi. “Tahminlerimize göre, Fortune 100’ün %75’inden fazlası temsil ediliyor.”
Üretken yapay zeka patlaması devam ederken, Groq hem rakip yapay zeka çipi yeni üreticilerinin hem de yapay zeka donanım sektörünün güçlü ismi Nvidia’nın artan rekabetiyle karşı karşıya.
Nvidia, üretken yapay zeka modellerini eğitmek ve dağıtmak için kullanılan yapay zeka çipleri pazarının yaklaşık %70 ila %95’ini kontrol ediyor ve firma hakimiyetini sürdürmek için agresif adımlar atıyor.
Nvidia, tarihsel olarak her iki yılda bir olduğu gibi her yıl yeni bir AI çip mimarisi yayınlamayı taahhüt etti. Ve bu bildirildiğine göre Bulut bilişim şirketleri ve yapay zeka donanımları da dahil olmak üzere diğer şirketler için özel çipler tasarlamaya odaklanan yeni bir iş birimi kurmak.
Nvidia’nın ötesinde, Groq, buluttaki AI iş yükleri için özel yongalar sunan veya yakında sunacak olan Amazon, Google ve Microsoft ile rekabet ediyor. Amazon’un Trainium, Inferentia ve Graviton işlemcileri AWS aracılığıyla sunuluyor; Google Cloud müşterileri yukarıda belirtilen TPU’ları ve zamanla Google’ın Axion yongasını kullanabilir; Microsoft ise yakın zamanda Cobalt 100 CPU’su için Azure örneklerini önizlemede başlattı ve Maia 100 AI Accelerator örnekleri önümüzdeki birkaç ay içinde gelecek.
Bazı analistlere göre Groq, önümüzdeki beş yıl içinde yıllık satışları 400 milyar dolara ulaşabilecek bir AI çip pazarında Arm, Intel, AMD ve giderek artan sayıda girişimin rakip olabileceğini de düşünebilir. Özellikle Arm ve AMD, AI çip işlerinin gelişmesi sayesinde, artan sermaye harcamaları Bulut sağlayıcıları tarafından üretken yapay zekaya yönelik kapasite talebini karşılamak için.
D-Matrix geçen yılın sonlarında kabarık 110 milyon dolar, türünün ilk örneği olarak nitelendirdiği çıkarım hesaplama platformunu ticarileştirmek için. Haziran ayında Etched, günümüzün baskın üretken AI model mimarisini, transformatörü hızlandırmak için özel olarak yapılmış bir işlemci için 120 milyon dolar ile gizlilikten çıktı. SoftBank’ın Masayoshi Son’u bildirildiğine göre Nvidia ile rekabet edebilecek bir çip girişimi için 100 milyar dolar toplamayı hedefliyor. Ve OpenAI söz konusu Yapay zeka çipi üretme girişimini başlatmak için yatırım şirketleriyle görüşmelerde bulunulacak.
Groq, kendi alanında bir niş oluşturmak için girişimcilik ve hükümetlere yönelik faaliyetlere büyük yatırımlar yapıyor.
Groq, Mart ayında, Groq Systems adlı yeni bir iş birimi oluşturmak için Palo Alto merkezli bir şirket olan Definitive Intelligence’ı satın alarak, bir dizi iş odaklı AI çözümü sundu. Groq Systems’ın yetki alanı, Groq’un çiplerini mevcut veri merkezlerine eklemek veya Groq işlemcilerini kullanarak yeni veri merkezleri kurmak isteyen ABD hükümet kurumları ve egemen uluslar da dahil olmak üzere kuruluşlara hizmet vermektir.
Groq, yakın zamanda kamu sektöründeki müşterilerine çözümlerini satmak için bir hükümet BT yüklenicisi olan Carahsoft ile ortaklık kurdu ve Carahsoft’un bayi ortakları aracılığıyla girişimin on binlerce LPU’sunu Avrupa firması Earth Wind & Power’ın Norveç veri merkezine kurmak için bir niyet mektubu bulunuyor.
Groq ayrıca Orta Doğu’daki gelecekteki veri merkezlerine LPU’lar kurmak için Suudi Arabistan merkezli danışmanlık firması Aramco Digital ile iş birliği yapıyor.
Aynı zamanda müşteri ilişkileri kurarken, Mountain View, Kaliforniya merkezli Groq çipinin bir sonraki nesline doğru ilerliyor. Şirket geçen Ağustos ayında, Groq’un ilk nesil 13nm çiplerine kıyasla performans ve verimlilik kazanımları sağlaması beklenen 4nm LPU’ları üretmek için yarı iletken firması Global Foundries ile sözleşme yapacağını duyurdu.
Groq, 2025’in ilk çeyreğinin sonuna kadar 108.000’den fazla LPU konuşlandırmayı planladığını söylüyor.