Giriş
Google, yapay zeka ve veri işleme alanında küresel bir dev olma yolunda önemli bir adım atarak sekizinci nesil Tensor İşlem Birimlerini (TPU 8t ve TPU 8i) tanıttı. Bu yeni donanım, özellikle yüksek performanslı sunucu sistemleri gerektiren veri merkezi uygulamaları için optimize edilmiş. TPU 8t’in geniş ölçekli model eğitimi için, TPU 8i’nin ise düşük gecikmeli çıkarım ve akıl yürütme iş yükleri için tasarlanmış olması, bu işlemcilerin farklı ihtiyaçlara hitap ettiğini gösteriyor. Bu yenilikler, araştırma ve geliştirme süreçlerinde önemli bir dönüşüm sağlayabilir.
TPU 8’in Teknik Özellikleri
- TPU 8t: 216 GB HBM3e bellek, 12.6 FP4 PFLOPs tepe performans.
- TPU 8i: 288 GB HBM3e bellek, 10.1 FP4 PFLOPs tepe performans.
- Her iki işlemci de TSMC’nin N3 üretim sürecinde üretilmiştir.
- TPU 8t, büyük ölçekli ön eğitim için idealken, TPU 8i, hizmet sunumu ve akıl yürütme görevleri için özelleştirilmiştir.
Hafıza ve Bandwidth Verimliliği
TPU 8t, 6,528 GB/s’ye kadar bellek bant genişliği sunarken, TPU 8i, 8,601 GB/s’ye kadar performans sergiliyor. Bu bant genişliği, işlemcilere bağlı olarak daha fazla veri akışı ve daha irtibatlı çalışma imkanı sunuyor. Google, TPU 8t’yi önceki nesil TPU’lara kıyasla %12.5 daha fazla bellek kapasitesine sahip hale getirmişken, bant genişliğinde %11.5’lik bir düşüş görmektedir; bu da maliyetlerin düşürülmesine katkıda bulunuyor.
İşlemci Mimarisi
TPU 8i, Google’ın geçmiş işlemci mimarilerinden radikal bir değişim gösteriyor. 3D Torus yerine “Boardfly” adı verilen yeni bir topoloji benimsendi. Bu topoloji, dört çipli yapı taşları ile başlayarak, toplamda 32 çip grubu oluşturuyor. Bu değişim, token yönlendirmesi gerektiren karmaşık görevlerde önemli bir avantaj sunarak iletişimi hızlandırıyor.
Soğutma Çözümleri ve Veri Merkezi Entegrasyonu
TPU 8t, 9,600 çip içeren bir süperpod ile entegre çalışarak, 121 FP4 ExaFLOPs’a kadar performans sunuyor. Google, Virgonet ağını kullanarak çok sayıda TPU 8t çipini tek bir veri merkezi içinde entegre edebiliyor. Bu, yüksek performans gerektiren iş yüklerinin daha etkili bir şekilde yönetilmesine olanak tanıyor.
Yeni İş Ortaklıkları
Google, bu yeni işlemci serisi için Mediatek ile işbirliği yaparak, daha düşük maliyetlerle daha fazla TPU üretimi sağlamakta. Mediatek, TPU 8i’nin tasarımını üstlenirken, Broadcom ise TPU 8t için üretimde yer alıyor. Bu çeşitlilik, daha maliyet etkin çözümler sunarak, rekabetçi avantaj sağlamaya yönelik bir strateji olarak öne çıkıyor.
Sonuç
Google’ın TPU 8 işlemcileri, veri merkezlerinin ve yüksek performanslı sunucu sistemlerinin geleceğini şekillendirmeye aday. Gelişmiş bellek sistemleri, yüksek performans ve veri işleme yetenekleri ile Google, bu yeni teknolojileri hizmetine sunmak için hazır. Hem eğitim hem de çıkarım görevleri için optimize edilmiş yapı, kullanıcıların farklı ihtiyaçlarına yönelik çözüm sunabilecek kapasitede. Yapay zeka ve işlemci teknolojileri alanında etkileyici olan bu adım, sektörde önemli değişikliklere yol açabilir.
Kaynak: Tom’s Hardware verileriyle derlenmiştir.
