Bugünlerde Microsoft Bing sayesinde herkes ChatGPT hakkında konuşuyor gibi görünüyor, ancak büyük dil modellerinin (LLM’ler) doğası göz önüne alındığında, bir oyuncu belirli bir déjà vu hissederse affedilir.
Bakın, LLM’ler devasa bulut sunucularında çalışsalar da çalıştırmak için ihtiyaç duydukları tüm eğitimi yapmak için özel GPU’lar kullanıyorlar. Genellikle bu, karmaşık tensör çekirdekleri olan bir GPU dizisi üzerinde çalışan sinir ağları aracılığıyla düpedüz müstehcen miktarda veri beslemek anlamına gelir ve bu yalnızca çok fazla güç gerektirmez, aynı zamanda ölçekte yapmak için çok sayıda gerçek GPU gerektirir.
Bu kripto madenciliğine çok benziyor ama aynı zamanda değil. Kripto madenciliğinin makine öğrenimi algoritmalarıyla hiçbir ilgisi yoktur ve makine öğreniminden farklı olarak kripto madenciliğinin tek değeri, bazı kişilerin bir değere sahip olduğunu düşündüğü ve bu nedenle ona gerçek para harcamaya istekli olduğu, jeton adı verilen oldukça spekülatif bir dijital emtia üretmektir.
Bu, kripto madenciler 2020’den 2022’ye kadar tüm Nvidia Ampere grafik kartlarını satın aldığında ve oyuncuları soğukta bıraktığında, son iki yılda GPU kıtlığına yol açan bir kripto balonuna yol açtı. Bu balon şimdi patladı ve GPU stoğu artık dengelendi.
Ancak ChatGPT’nin yükselişiyle birlikte geçtiğimiz iki yılın tekrarını mı göreceğiz? Bu pek olası değil, ama söz konusu da değil.
Grafik kartınız büyük LLM’leri kullanmayacak
Satın alabileceğiniz en iyi grafik kartının, makine öğrenimi türlerinin kurulumları için isteyebileceği türden bir şey olabileceğini düşünebilirsiniz, ancak yanılıyorsunuz. Bir üniversitede değilseniz ve makine öğrenimi algoritmalarını araştırmıyorsanız, ihtiyacınız olan algoritmayı çalıştırmak için bir tüketici grafik kartı yeterli olmayacaktır.
Görüntü veya müzik üreten LLM’lerin çoğu ve diğer üretken AI modelleri gerçekten ilk L’ye vurgu yapıyor: Büyük. ChatGPT, akıl almaz derecede büyük miktarda metin işledi ve bir tüketici GPU’su gerçekten gibi sunucu sınıfı altyapı üzerinde çalışan endüstriyel güçlü GPU’lar olarak bu görev için uygundur.
Bunlar yüksek talep görecek GPU’lardır ve Nvidia’yı ChatGPT konusunda bu kadar heyecanlandıran şey de budur: ChatGPT’nin insanlara yardımcı olacağından değil, onu çalıştırmanın hemen hemen tüm Nvidia’nın sunucu sınıfı GPU’larını gerektireceği anlamına gelir. Nvidia, ChatGPT heyecanından para kazanmak üzere.
Bir sonraki ChatGPT, yerel donanımda değil, bulutta çalıştırılacak
Google veya Microsoft değilseniz, kendi LLM altyapınızı çalıştırmıyorsunuz demektir. Başkasınınkini bulut hizmetleri şeklinde kullanıyorsunuz. Bu, kendi LLM’lerini geliştirmek için tüm grafik kartlarını satın alan bir grup girişime sahip olmayacağınız anlamına gelir.
Büyük olasılıkla, LLMaaS veya Hizmet Olarak Büyük Dil Modelleri göreceğiz. Makine öğrenimi algoritmalarınız için kiralamaya hazır GPU’larla dolu dev sunucu gruplarına sahip Microsoft Azure veya Amazon Web Services veri merkezlerine sahip olacaksınız. Yeni başlayanların sevdiği türden bir şey bu. Masa tenisi masası veya puf sandalyesi olmayan ekipman satın almaktan nefret ederler.
Bu, ChatGPT ve diğer yapay zeka modelleri çoğaldıkça, onu çalıştıran kişiler küçük bir geliştirici ekibi olsa bile tüketici donanımında yerel olarak çalıştırılmayacakları anlamına gelir. Sunucu sınıfı donanım üzerinde çalışacaklar, bu nedenle grafik kartınız için kimse gelmeyecek.
Oyuncular henüz ormandan çıkmadı
Öyleyse, endişelenecek bir şey yok mu? Kuyu…
Mesele şu ki, RTX 4090’ınız güvende olsa da, Nvidia’nın emrinde yalnızca sınırlı miktarda silikon olduğunda kaç tane RTX 5090 üreteceği ve bu silikonu sunucu sınıfı GPU’lar için kullanmak önemli ölçüde daha karlı olabilir. GeForce grafik kartı için mi kullanıyorsunuz?
ChatGPT’nin yükselişinden korkulacak bir şey varsa, o da hissedarlar karı en üst düzeye çıkarmak için daha fazla sunucu sınıfı GPU üretilmesini talep ettikleri için daha az tüketici GPU’sunun üretilmesi olasılığıdır. Bu da boş bir tehdit değil, çünkü kapitalizmin kurallarının şu anda yazıldığı şekilde, şirketlerden genellikle hissedar getirilerini en üst düzeye çıkaran her şeyi yapmaları isteniyor ve bulut, oyunculara grafik kartı satmaktan her zaman daha karlı olacak.
Öte yandan, bu gerçekten bir Nvidia olayı. Team Green, azaltılmış tüketici grafik kartı stoğuyla sunucu GPU’larında her şeyi yapabilir, ancak grafik kartı üreten yalnızca onlar değildir.
AMD RDNA 3 grafik kartları, AI donanımını yeni tanıttı ancak bu, Nvidia kartlarındaki tensör çekirdeklerine yakın bir şey değil, bu da Nvidia’yı makine öğrenimi kullanımı için fiili seçim haline getiriyor. Bu, Nvidia başka bir şeye geçerken AMD’nin oyuncular için varsayılan kart üreticisi olabileceği anlamına gelir.
Bu kesinlikle mümkün ve kriptodan farklı olarak, AMD’nin ikinci sınıf bir LLM kartı olması muhtemel değildir ve bu kartın LLM’ler için hala iyi olması muhtemeldir. yapamamak Nvidia kartı al. AMD, makine öğrenimi için gerçekten hiç donanımlı değil, özellikle de LLM’lerin gerektirdiği düzeyde değil, bu nedenle AMD burada bir faktör değil. Bu, oyuncular için her zaman tüketici sınıfı grafik kartları olacağı anlamına gelir ve iyi olanlar da, bir zamanlar olduğu kadar çok Nvidia kartı olmayabilir.
Team Green partizanları bu gelecekten hoşlanmayabilir, ancak ChatGPT’nin yükselişi göz önüne alındığında en muhtemel olanıdır.