Bir AI çip şirketi olan Groq, herkesin Elon Musk’u unutmasını istiyor Neredeyse aynı adı taşıyan alaycı sohbet robotu Grok. Groq’un ışık hızında demoları bu hafta sonu viral oldu ve SohbetGPT, İkizler burcu ve Grok bile halsiz görünüyor. Groq “dünyanın en hızlı büyük dil modellerini” sağladığını iddia ediyor ve üçüncü taraf testleri bu iddianın geçerli olabileceğini söylüyor.
Bir saniye içinde Groq, yol boyunca kaynaklardan alıntı yaparak yüzlerce kelimeyi gerçeklere dayalı bir cevapla üretiyor: X’te yayınlanan bir demoya göre. Başka bir demoda kurucu ve CEO Jonathon Ross şunları söyledi: CNN sunucusu, canlı televizyonda dünyanın diğer ucundaki yapay zekalı bir sohbet robotuyla gerçek zamanlı, sözlü bir konuşma yapıyor. ChatGPT, Gemini ve diğer sohbet robotları etkileyici olsa da Groq onları ışık hızında yapabilir. Gerçek dünyada pratik kullanım örneklerine sahip olacak kadar hızlı.
Groq, Nvidia’nın Grafik İşleme Birimlerinden (GPU’lar) daha hızlı olduğunu iddia eden Dil İşleme Birimleri (LPU’lar) adı verilen yapay zeka çipleri yaratıyor. Nvidia’nın GPU’ları genellikle AI modellerini çalıştırmak için endüstri standardı olarak görülüyor, ancak ilk sonuçlar LPU’ların bunları ortadan kaldırabileceğini gösteriyor.
Groq bir “çıkarım motorudur”; ChatGPT, Gemini veya Grok gibi bir sohbet robotu değildir. Bu sohbet robotlarının inanılmaz derecede hızlı çalışmasına yardımcı olur ancak bunların tamamen yerini almaz. Groq’un web sitesinde, farklı sohbet robotlarını test edebilirsiniz ve Groq’un LPU’larını kullanarak ne kadar hızlı çalıştıklarını görün.
Groq, Microsoft’un saniyede 18 token üretmesine kıyasla saniyede 247 token üretiyor. Yapay Analizden üçüncü taraf testi geçen hafta yayınlandı. Bu, ChatGPT’nin Groq’un çipleri üzerinde çalışması durumunda 13 kattan daha hızlı çalışabileceği anlamına geliyor.
ChatGPT, Gemini ve Grok gibi yapay zeka sohbet robotları, daha hızlı olsalardı çok daha kullanışlı olabilirlerdi. Mevcut sınırlamalardan biri, bu modellerin gerçek zamanlı insan konuşmasına ayak uyduramamasıdır; bazı gecikmeler konuşmaların robot gibi görünmesine neden olur. Google yakın zamanda Gemini demosunun sahtesini yaptı Gemini’nin yapamamasına rağmen gerçek zamanlı, çok modlu bir konuşma yapabileceğini göstermek için. Ancak Grok’un artan hızlarıyla bu video gerçek olabilir.
Ross, Groq’tan önce Google’ın yapay zeka modellerini eğitmek için son teknoloji çipler üreten yapay zeka çip bölümünün kurucu ortağıydı. Ross, LPU’lar sayesinde Groq’un GPU’ların ve CPU’ların takılıp kaldığı iki LLM darboğazını aştığını söylüyor: işlem yoğunluğu ve bellek bant genişliği.
Grok ismi nereden geliyor? Garip Bir Ülkedeki YabancıRobert Heinlein’in 1961 tarihli bilim kurgu kitabı. Kelime anlamı “derinlemesine ve sezgisel olarak anlamak”tır. Pek çok yapay zeka şirketinin yapay zeka ürünlerini tanımlamak için bunu kullanmasının nedeni budur.
Sadece Ross’un Groq’u ve Elon Musk’un Grok’u değil, aynı zamanda bir de var. Yapay zeka destekli BT şirketi Grok. Grimes’ın ayrıca bir Yapay zeka destekli oyuncak Grok, ismini kendisinin ve Musk’un çocuklarının “Grocket” deme şeklinden aldığı söyleniyor. Ancak Ross, Groq’unun 2016’da birinci olduğunu iddia ediyor.
Kasım ayında “Groq’un Galaksisine hoş geldin Elon” dedi Blog yazısı Ross’tan, Elon Musk’un xAI’nin Grok versiyonunu yayınlamasından üç gün sonra. Ross, Groq’un ticari markalı bir isim olduğundan emin olarak, “Görüyorsunuz, ben Groq™ adlı şirketin kurucusu ve CEO’suyum” dedi.
Groq çok fazla ilgi görse de AI çiplerinin Nvidia’nın GPU’ları veya Google’ın TPU’ları ile aynı ölçeklenebilirliğe sahip olup olmadığı henüz bilinmiyor. Yapay zeka çipleri, bu günlerde OpenAI CEO’su Sam Altman’ın ana odak noktası ve hatta bunları kendisi yapmayı bile düşünüyor. Groq’un artan çip hızları, yapay zeka dünyasını hızlı bir şekilde başlatabilir ve yapay zeka sohbet robotlarıyla gerçek zamanlı iletişim için yeni olanaklar yaratabilir.
