Çoğu insan veri merkezlerini gerçekten düşünmez, ancak hepimiz internete bağlı uygulamalar, akış hizmetleri ve büyük miktarda bilgiyi işlemeye ve depolamaya dayanan iletişim araçlarını kullanırız. Dünya birbirine daha çok bağlandıkça ve büyük miktarlarda veriyi oluşturmak ve dağıtmak kolaylaştıkça, tüm bunları işlemek için gereken sistemler ve süreçler gelişmeye devam ediyor. Intel Başkan Yardımcısı ve Veri Merkezi ve Yapay Zeka Grubu Genel Müdürü Sandra Rivera kısa bir süre önce Bengaluru’daydı ve Gadgets 360, onun mevcut trendleri ele alışını ve geleceğe yönelik vizyonunu duyma şansı buldu. Pandemi sayesinde çok şey değişti ve elbette yapay zeka, ileriye dönük hikayenin büyük bir parçası.
İlk olarak size Intel’in Hindistan’da devam eden çalışmaları ve şirketin burada yaptığı her şey hakkında Sandra Rivera’nın yorumlarını getirdik. Şimdi, donanım ve yazılımdaki yenilikler, veri merkezlerinin gelişen doğası ve Nvidia ile rekabet hakkında o konuşmadan bazı alıntılar daha var.
Veri merkezleri nasıl daha da önemli hale geliyor ve yakın geçmişte işler nasıl değişti:
Sandra Rivera: Tüm yeniliklerimiz ve ürünlerimiz açıkça müşterilerimiz tarafından yönlendirilmektedir. Büyük ve büyüyen bir TAM içindeyiz [Total Addressable Market] ve ilerledikçe, dijital dönüşüm ve hayatımızın her bölümünün dijitalleşmesi ile Hindistan’dan daha belirgin olan hiçbir yer yok. Daha fazla hesaplamaya ihtiyacımız var; daha fazla veri oluşturuyoruz. Sıkıştırılması, güvenli hale getirilmesi, bir ağ üzerinden iletilmesi ve saklanması gerekir. Sunulması gerekiyor ve ayrıca bundan değerli içgörüler elde etmeniz gerekiyor ki bu da elbette yapay zekanın devreye girdiği yer.
COVID sırasında meydana gelen ilginç şeylerden biri, hepimizin mücadele ettiği tedarik zinciri kısıtlamaları nedeniyle müşterilerin sahip oldukları altyapıyı daha fazla kullanmaya yöneldiğini gördük. Yapay zeka, ağ iletişimi ve güvenlik, en son yeniliklere ve çözümlere çok aç, ancak Web katmanının çoğu; bulut altyapısında çalışan ofis uygulamaları; ERP sistemleri; muhasebe sistemleri; vb, aslında kullanıma çok odaklanmıştır.
En büyük büyüme, ağın ucu dediğimiz yerde veya şirket içinde gerçekleşiyor. Bilgi işlem, veri oluşturma ve veri tüketimi noktasına geliyor. Bu verileri işlemek için şirket içi uygulamaları dağıtmayı basitleştirmek üzere OEM’lerimizle ortaklık kurmak bizim için pek çok zorluk oluşturuyor; makine öğrenimi, yapay zeka, veri analitiği, ağ oluşturma özellikleri, güvenlik çalıştırmak için. Bu, hem donanımda hem de tabii ki yazılımda çok fazla iş demektir.
Bu, burada, Hindistan’da da geçerli. [Some of it] güç kısıtlamaları tarafından yönlendirilir ve bu nedenle, bu önde gelen uygulamalara ve altyapıya ayrılmış güce sahip olabilirler ve ardından gücü daha genel uygulamalara sınırlayabilirlerse, bu, güç bütçesinin akıllıca kullanılmasıdır ki bu büyük bir sorundur.
Hindistan bizim için Ar-Ge açısından çok önemli; Yani onlarca yıldır buradayız. Ayrıca hükümetin dijital dönüşüm ve altyapıya yaptığı tüm yatırımlarla Hindistan’ın bizim için de büyük bir tüketim pazarı olacağını görüyoruz. Burada daha fazla altyapı, daha fazla veri merkezi, daha fazla kurumsal çözüm, yazılım ekosistemi çözümü ve hizmet oluşturma fırsatı çok heyecan verici. Burada sadece iş gücüne değil, pazar fırsatlarına da yatırım yapmaya devam ediyoruz.
GPU’lar talep edilmesine rağmen CPU’ların devam eden önemi ve bunun veri merkezi tasarımını nasıl bozduğu:
Sandra Rivera: 5G’nin sürekli yaygınlaşmasının yanı sıra güvenlik ve depolamanın yönlendirdiği yapay zeka ve ağ oluşturma gibi yüksek büyüme oranına sahip iş yükleri var. Piyasada gördüğümüz dinamiklerden biri, yakın vadede hızlandırılmış hesaplamaya, yani GPU’lara ve yapay zeka hızlandırıcılara çok fazla ilgi olması.
Müşteriler, sermaye harcamalarının bir kısmını GPU’lara kaydırmak istiyor. CPU denklemin bir parçasıdır, ancak yakın vadede bu yatırım harcamalarının daha fazlası GPU’lara gidecektir. Bunun kalıcı bir piyasa koşulu olduğunu düşünmüyoruz. CPU, birçok AI iş yükü için maliyet-performans-programlanabilirlik açısından oldukça iyidir. Çoğu durumda müşterilerin zaten bir Xeon CPU’su vardır ve bu nedenle yapay zeka makine öğrenimi yapabilmeleri gerçeği [with that] işimiz için bir rüzgardır.
Intel AI Sürekliliği
[All that] şu anda herkes üretici yapay zeka ve büyük dil modellerinden bahsediyor, ancak yapay zeka bundan çok daha fazlası, değil mi? Yapay zeka, siz modeli eğitmenden önce gerçekleşen tüm veri hazırlığıdır; veri yönetimi, filtreleme ve temizleme. Dolayısıyla, kedileri tanımlamak için bir uygulama oluşturmaya çalışıyorsanız, [for example] o resimlerde köpek istemezsin. Tüm bunlar CPU ile önceden yapılır ve aslında bugün neredeyse yalnızca Xeon ile yapılır. Bu, AI iş akışının bir parçasıdır. Ardından gerçek model eğitim aşamasına geçersiniz. CPU, küçük ve orta ölçekli modelleri (10 milyar veya daha düşük parametre) veya makine öğrenimi veya veri analitiğinin daha geniş bir uygulamanın parçası olduğu karma iş yüklerini ele almak için çok iyi konumlandırılmıştır. CPU çok esnektir, yüksek oranda programlanabilir ve muhtemelen zaten CPU’larınız vardır.
100, 200, 300 milyar parametreli en büyük modellerden bahsederken, burada daha paralel bir mimariye ihtiyaç duyarsınız, GPU bunu sağlar ve Gaudi’de olduğu gibi özel derin öğrenme hızlandırmasından da yararlanırsınız. Modeli eğittikten sonra, çıkarım veya konuşlandırma aşaması dediğimiz aşamaya gelirsiniz. Tipik olarak, orada şirket içindesiniz. Bir perakende kuruluşunda veya bir fast food restoranındaysanız, bunu genellikle bir CPU veya daha az güç tüketen, daha az pahalı bir hızlandırıcı üzerinde çalıştıracaksınız. Çıkarım aşamasında, CPU’larımız ve bazı küçük GPU’larımız ve hızlandırıcılarımızla çok etkili bir şekilde rekabet edebiliriz.
Şu anda, bu en büyük dil modelleri ve üretken yapay zeka etrafında çok fazla ilgi var. Bazı GPU özelliklerine sahip olduklarından emin olmak istediklerini söyleyen daha fazla müşteri görüyoruz. Bu dinamik, ancak uzun vadeli pazarın karmaşık olduğunu görüyoruz. Büyüyor. AI’nın ilk günlerindeyiz. Portföyümüzde sahip olduğumuz yeteneklerin genişliğiyle oynamak için çok iyi bir fırsatımız olduğunu düşünüyoruz. Dolayısıyla, üretken yapay zekanın küçük olduğunu düşündüğümden değil; ancak yalnızca büyük ölçekli bir GPU ile adreslenemez.
Intel, Nvidia’yı nasıl görüyor ve nasıl rekabet etmeyi planlıyor?
Sandra Rivera: Nvidia’nın GPU’ları piyasaya sunma konusunda harika bir iş çıkardığını herkes biliyor. Dev bir oyuncu. Bunu perspektife koyayım. Gaudi 2, günümüzün en yaygın GPU’su olan Nvidia A100’den daha iyi performansa sahip. Şu anda H100’e kıyasla daha ham bir performansa sahip değil, ancak fiyat-performans açısından aslında çok iyi konumlandırılmış. Gaudi 2 donanımında desteklenen veri biçimlerinden biri FP8’dir ve bunu destekleyen yazılım önümüzdeki çeyrekte piyasaya sürülecektir. Çok iyi bir performans görmeyi bekliyoruz, ancak beklemeniz ve Kasım ayında ne yayınlayacağımızı görmeniz gerekecek. Önümüzdeki yıl, Nvidia yol haritasında H100 ve hatta yeni nesil ile çok etkili bir şekilde rekabet edecek olan Gaudi 3 piyasaya çıkacak. Öngörülerimiz çok iyi görünüyor. Çok agresif bir şekilde fiyatlandırıyoruz. Müşteriler alternatif istiyor ve biz kesinlikle pazardaki en büyük oyuncuya alternatif olmak istiyoruz. Söylediklerimiz değil yaptıklarımız olacak.
Sürdürülebilir veri merkezleri oluşturmak için Intel’in yol haritası.
Sandra Rivera: Dünya genelindeki tüm üretimimizde yüzde 90’ın üzerinde ve bazı durumlarda yüzde 100’ün üzerinde yenilenebilir enerji kullanıyoruz. Ürünlerimizin üretimi için yenilenebilir enerji ve toplam karbon ayak izi konusunda rakipsiziz. Rekabet, dünyanın çoğu yerinde olduğu gibi, ürünlerini Tayvan veya Kore’deki dökümhanelerde üretiyor. Tabii ki Tayvan en büyüğü, ancak yenilenebilir enerjide sahip oldukları ayak izi aslında oldukça küçük. Bu bir ada; her şey dizel yakıt kullanılarak gönderilir. Kendi fabrikalarımız ve kendi BT altyapımız için kendi inşa ettiğimiz veri merkezlerine baktığımızda yine yüzde 90 artı yenilenebilir enerji. Ayrıca, yeşil ve yenilenebilir enerji çevresinde optimizasyona yardımcı olmak için OEM’lerimiz ve bulut hizmeti sağlayıcılarımızla çok yakın ortaklıklar kuruyoruz.
4. Nesil Xeon ile, boşta kalma sürelerinde çekirdekleri kapatma ve işlemciyi ayarlama konusunda akıllı davranarak gerçekten yüzde 20 daha az enerji kullanabileceğiniz, gücü optimize edilmiş bir modu kullanıma sunduk. Bunu yüzde 5’in altında çok küçük bir performans etkisi ile yapabildik ve müşteriler işlemcinin her zaman tam kapasitede çalışmasına ihtiyaç duymadıkları ve çok fazla enerji tasarrufu sağlayabildikleri için bunu sevdiler.
Veri merkezlerinde nöromorfik ve kuantum hesaplamanın mevcut durumu ve gelecekteki potansiyeli
Sandra Rivera: Nöromorfik ve kuantum bilgi işlem, önde gelen teknolojilerdir. En az on buçuk yıldır kuantum yatırımcısıyız. Silikon fotoniğe yatırımcı olduk; optik ağ ve ara bağlantılar, özellikle bu çok üst düzey, büyük ölçekli bilgi işlem platformlarında giderek daha ilginç hale geldi. Bellek teknolojilerinin ileriye dönük olarak bizim için kritik olacağını biliyoruz. Ortaklarımızla ve kendi başımıza bellek teknolojilerine yatırımcı olduk. Bu teknolojilerin ticari uygulanabilirliği bazen 10-20 yıl sonra olabilir, ancak yenilik işimizin can damarıdır. Intel Labs ile olağanüstü yeteneklere sahibiz. Pek çok arkadaşımız, kıdemli arkadaşımız ve sektör aydınımız var. Proses teknolojisi, dünyadaki en karmaşık ve mükemmel mühendislik alanlarından biridir.
İnovasyon bakış açısıyla liderlik etmeye devam edeceğiz. Ticari canlılık, piyasaların ne kadar hızlı değiştiğine bağlıdır. Yapay zekanın yıkıcı olduğunu düşünüyoruz ve bu teknolojilerden bazıları muhtemelen [developed] hızlandırılmış bir hızda, özellikle ağ ve bellek. Güç ve termik konusunda pek çok yenilik var; bu çipler ve sistemler giderek büyüyor ve ısınıyor. Zamanlama geldiğinde cevap vermek her zaman kolay değildir. [right]. Bu teknolojilerin bazılarının ticari başarısı olmayabilir ama bir kısmını alıp başka alanlara kanalize ediyorsunuz. Bunun inovasyon işi olduğunu düşünüyorum ve tarihimizle gurur duyuyoruz. Onlar [teams] çok eğlenceli şeyler yapıyorlar ve çok enerjikler.
Bazı yanıtlar kısaltılmış ve netlik için biraz düzenlenmiştir.
Açıklama: Intel, muhabirin Bengaluru’daki etkinlik için yaptığı uçuşlara sponsor oldu.