Talep olarak üretken yapay zeka Büyüyor, Microsoft, Google ve AWS gibi bulut hizmet sağlayıcılarının yanı sıra büyük dil modeli (LLM) OpenAI gibi sağlayıcıların hepsinin yapay zeka iş yükleri için kendi özel çiplerini geliştirmeyi düşündükleri bildirildi.
Bu şirketlerden bazılarının (özellikle OpenAI ve Microsoft’un), çip kıtlığı nedeniyle üretken AI iş yüklerini yönetmek için kendi özel çiplerini geliştirmek için çaba harcadıkları yönündeki spekülasyonlar, son birkaç haftadır manşetlere hakim oldu.
OpenAI’nin çip tasarımı planlarını ilerletmek için bir firma satın almak istediği söylentileri dolaşırken, Microsoft’un Athena kod adlı özel bir çip üretmek için AMD ile birlikte çalıştığı bildiriliyor.
Google ve AWS, Google adına Tensör İşleme Birimleri (TPU’lar) biçiminde AI iş yükleri için kendi çiplerini ve AWS’nin Trainium ve Inferentia çiplerini zaten geliştirdiler.
Peki bu şirketleri kendi çiplerini üretmeye iten faktörler nelerdir? Analistler ve uzmanlara göre yanıt, üretken yapay zeka sorgularının işlenmesinin maliyeti ve mevcut çiplerin, özellikle de grifik işleme birimlerinin (GPU’lar) verimliliği etrafında yatıyor. Nvidia’nın A100 ve H100 GPU’ları şu anda AI çip pazarına hakim durumda.
IDC araştırma müdürü Nina Turner, “GPU’lar muhtemelen üretken yapay zeka iş yükleri için en verimli işlemci değildir ve özel silikon bu amaca yardımcı olabilir” dedi.
TechInsights başkan yardımcısı Dan Hutcheson, GPU’ların yapay zekanın temel matematiği olan matris tersine çevirmede son derece verimli olan genel amaçlı cihazlar olduğunu belirtti.
“Onların çalıştırılması çok pahalı. Hutcheson, bu şirketlerin kendi iş yükleri için optimize edilmiş ve maliyet sorunlarına çözüm olabilecek bir silikon işlemci mimarisi peşinde olduklarını düşünüyorum” dedi.
Turner’a göre özel silikon kullanmak, Microsoft ve OpenAI gibi şirketlerin güç tüketimini azaltmasına ve bilgi işlem ara bağlantısını veya bellek erişimini iyileştirmesine, dolayısıyla sorgu maliyetlerini düşürmesine olanak tanıyabilir.
OpenAI, ChatGPT’yi çalıştırmak için günde yaklaşık 694.444 dolar veya sorgu başına 36 sent harcıyor. Araştırma firması SemiAnalytic’in raporu.
Turner, “Yapay zeka iş yükleri yalnızca GPU’lara ihtiyaç duymuyor” dedi ve GPU’ların paralel işleme için mükemmel olmasına rağmen, bu tür yapay zeka tabanlı işlemlere daha uygun başka mimariler ve hızlandırıcıların da bulunduğunu ekledi.
Turner, özel silikonun diğer avantajlarının arasında çiplere erişim üzerindeki kontrolün ve sorgu hızını artırmak için özel olarak LLM’lere yönelik öğelerin tasarlanmasının yer aldığını söyledi.
Özel çipler geliştirmek kolay değil
Bazı analistler ayrıca özel silikon tasarlama hamlesini Apple’ın cihazları için çip üretme stratejisine benzetti. Forrester araştırma direktörü Glenn O’Donnell, tıpkı Apple’ın cihazlarının performansını artırmak için genel amaçlı işlemcilerden özel silikona geçiş yapması gibi, üretken yapay zeka hizmet sağlayıcılarının da çip mimarilerinde uzmanlaşmanın yollarını aradığını söyledi.
“Nvidia’nın GPU’ları şu anda çok popüler olmasına rağmen onlar da genel amaçlı cihazlardır. Gerçekten işleri çığırından çıkarmak istiyorsanız, görüntü işleme veya özel üretken yapay zeka gibi belirli işlevler için optimize edilmiş bir çipe ihtiyacınız var,” diye açıklayan O’Donnell, özel çiplerin bu tür durumlara cevap olabileceğini de sözlerine ekledi.
Ancak uzmanlar, özel çip geliştirmenin hiçbir şirket için kolay olmayabileceğini söyledi.
Gaurav Gupta, “Yüksek yatırım, uzun tasarım ve geliştirme yaşam döngüsü, karmaşık tedarik zinciri sorunları, yetenek kıtlığı, harcamaları haklı çıkaracak yeterli hacim ve tüm sürecin anlaşılmaması gibi çeşitli zorluklar, özel çiplerin geliştirilmesine engel teşkil ediyor” dedi. Gartner’da başkan yardımcısı ve analist.
Süreci sıfırdan başlatan herhangi bir şirket için bu sürecin en az iki ila iki buçuk yıl sürebileceğini söyleyen O’Donnell, çip tasarlama yeteneğinin azlığının gecikmelerin ardındaki önemli bir faktör olduğunu da sözlerine ekledi.
O’Donnell’in bakış açısı, büyük teknoloji şirketlerinin kendi özel çiplerini geliştirmek için start-up’ları satın alması veya bu alanda uzmanlığı olan şirketlerle ortaklık kurması örnekleriyle destekleniyor. AWS, teklifleri için özel çipler geliştirmek amacıyla 2015 yılında İsrailli girişim Annapurna Labs’ı satın aldı. Öte yandan Google, AI çiplerini üretmek için Broadcom ile ortaklık kuruyor.
OpenAI veya Microsoft için ana sorun çip sıkıntısı olmayabilir
OpenAI’nin AI iş yüklerini destekleyen özel bir çip yapmak için bir girişim satın almak istediği bildirilirken, uzmanlar planın çip kıtlığıyla bağlantılı olmayabileceğini, Microsoft’un uygulamalara AI özellikleri eklemeye devam etmesi nedeniyle daha çok LLM’ler için çıkarım iş yüklerini desteklemekle ilgili olabileceğine inanıyor ve müşterileri üretken yapay zeka hizmetlerine kaydetme
“Açık olan nokta şu ki, kimsenin hizmet etmediği bir gereksinimleri var ve bence bu, büyük bir GPU’dan, hatta en iyi Sapphire Rapids CPU’lardan satın alınması ve çalıştırılması daha ucuz olan, onları ikisine de borçlu bırakmayan bir çıkarım parçası olabilir. Omdia baş analisti Alexander Harrowell’e göre AWS veya Google. Görüşünü CEO Sam Altman’ın GPT-4’ün daha fazla ölçeklenmesinin mümkün olmadığı ve geliştirilmeye ihtiyaç duyacağı yönündeki yorumlarına dayandırdığını ekledi. Bir Yüksek Lisans’ı ölçeklendirmek, bir modelden çıkarım yapmaya kıyasla daha fazla bilgi işlem gücü gerektirir. Çıkarım yapma, daha doğru tahminler veya sonuçlar üretmek için eğitimli bir Yüksek Lisans kullanma sürecidir.
Ayrıca analistler, büyük bir çip tasarımcısını satın almanın OpenAI için sağlam bir karar olmayabileceğini, çünkü çiplerin tasarlanıp üretime hazır hale getirilmesinin yaklaşık 100 milyon dolara mal olacağını söyledi.
“OpenAI bu çaba için piyasadan para toplamayı deneyebilirken, Microsoft ile bu yılın başlarında yapılan anlaşma esas olarak şirketin yarısından fazlasının 10 milyar dolara bir opsiyon satmasına yol açtı; bunun belirtilmemiş bir kısmı nakit dışı Azure kredilerinden oluşuyor – değil Nakit akışı içinde olan bir şirketin hareketi,” dedi Harrowell.
Bunun yerine, SohbetGPTTurner, yapımcının yapay zeka hızlandırıcılara sahip startup’ları satın almayı değerlendirebileceğini belirterek, böyle bir hareketin ekonomik açıdan daha tavsiye edilebilir olacağını da sözlerine ekledi.
Çıkarım iş yüklerini desteklemek amacıyla satın alma için potansiyel hedeflerin Groq, Esperanto Technologies, Tenstorrent ve Neureality gibi Silikon Vadisi firmaları olabileceğini söyleyen Harrowell, OpenAI’nin Nvidia GPU’larını atmaya ve harekete geçmeye istekli olması durumunda SambaNova’nın da olası bir satın alma hedefi olabileceğini ekledi. yalnızca bulut yaklaşımıyla şirket içi.
Telif Hakkı © 2023 IDG Communications, Inc.