Buna göre Dijital zamanlarDell Tayvan Genel Müdürü Terence Liao, Nvidia H100 AI GPU’ların teslimat sürelerinin geçtiğimiz birkaç ayda, daha önce bildirdiğimiz gibi 3-4 aydan 2-3 aya (8-12 hafta) düştüğünü bildirdi. . Sunucu ODM’leri, Nvidia’nın H100 GPU’larına ulaşmanın neredeyse imkansız olduğu 2023 yılına kıyasla tedarikin nihayet rahatladığını ortaya çıkardı.
Liao, teslim sürelerinin azalmasına rağmen yapay zeka özellikli donanıma olan talebin hala oldukça yüksek olduğunu belirtiyor. Özellikle, AI sunucuları inanılmaz derecede maliyetli olmasına rağmen, AI sunucu satın alımları işletmelerde genel amaçlı sunucu satın alımlarının yerini alıyor. Ancak bunun tek nedeninin tedarik süresi olduğuna inanıyor.
2-3 aylık teslimat aralığı, Nvidia’nın H100 GPU’ları için görülen en kısa teslimat süresidir. Sadece altı ay önce teslimat süreleri 11 aya ulaşıyordu, bu da Nvidia müşterilerinin çoğunun AI GPU siparişlerinin karşılanması için bir yıl beklemesi gerektiği anlamına geliyordu.
2024’ün başından bu yana teslimat süreleri önemli ölçüde azaldı. Öncelikle yılın 3-4 ayına kadar büyük bir düşüş gördük. Artık teslimat süreleri bir ay daha kısaldı. Bu hızla gidersek, teslim sürelerinin yıl sonuna kadar veya daha erken bir zamanda tamamen buharlaştığını görebiliriz.
Bu davranış, potansiyel olarak H100 GPU fazlasına sahip olan ve kullanılmayan envanterin yüksek bakım maliyetlerini dengelemek için tedariklerinin bir kısmını yeniden satan bazı şirketlerin zincirleme etkilerinin bir sonucudur. Ayrıca AWS, Nvidia H100 GPU’ların bulut üzerinden kiralanmasını kolaylaştırdı ve bu da H100 talebinin bir kısmının hafifletilmesine yardımcı oldu.
Tedarik kısıtlamalarıyla mücadele eden kalan Nvidia müşterileri, kendi yüksek lisanslarını geliştiren OpenAI gibi büyük şirketler. Bu şirketlerin LLM’lerini hızlı ve etkili bir şekilde eğitmek için onlarca ve yüz binlerce GPU’ya ihtiyacı var.
İyi haber şu ki bu uzun süre bir sorun olmayacak. Teslim süreleri son dört ayda olduğu gibi katlanarak kısalmaya devam ederse, Nvidia’nın en büyük müşterileri, en azından teoride, ihtiyaç duydukları tüm GPU’lara sahip olabilecek.