Açık kaynaklı bir CUDA çeviri katmanı olan ZLUDA, Intel ve ardından AMD GPU’larla oldukça canlı iki hayat yaşadı. AMD’nin kendi fonlarını kullanarak geliştirdiği kodu kaldırmayı talep ettiği ağustos ayında neredeyse ölüyordu. Ancak geliştiricisi Andrzej Janik’in gizemli bir sponsordan finansman sağlamasıyla ZLUDA’nın artık üçüncü bir hayatı var. Raporlara göre bu sefer ZLUDA’nın odak noktası, CUDA GPU’ları için tasarlanan AI/ML yazılımını diğer satıcıların işlemcilerinde bir çeviri katmanı kullanarak çalıştırmak olacak. Phoronix.
ZLUDA, başlangıçta Intel ve ardından AMD GPU’larda yaratıcı, profesyonel CUDA tabanlı uygulamaları çalıştırmak için tasarlandı; ZLUDA’nın yakında çıkacak versiyonu ise odağı yapay zeka ve makine öğrenimi iş yüklerine uyum sağlayacak şekilde değiştiriyor. Ayrıca vurgu artık sadece Intel veya AMD üzerinde değil. Bunun yerine birden fazla GPU tedarikçisi desteği sunarak ZLUDA’nın farklı GPU mimarilerinde uygulanabilir olmasını sağlar. Bununla birlikte, şimdilik geliştirme çabalarının çoğu AMD GPU’lar, özellikle de RDNA1 ve daha yeni mimariler üzerinde yoğunlaşıyor. Destek, AMD’nin ROCm 6.1+ bilgi işlem yığını etrafında oluşturularak gelecekte daha geniş, çoklu mimari uyumluluğunun temelini oluşturuyor.
Geliştiriciyle konuşan Phoronix’e göre Andrzej Janik şu anda PyTorch, TensorFlow ve Llama.cpp gibi AI/ML çerçevelerinin kendi çeviri katmanını kullanarak Nvidia olmayan GPU’larda CUDA kullanarak sorunsuz bir şekilde çalışmasını sağlamak için çalışıyor. Janik, yeni ZLUDA kodunu birden fazla GPU’daki AI/ML iş yüklerini etkili bir şekilde yönetebilecek istikrarlı bir duruma geliştirmenin yaklaşık bir yıl süreceğini öngörüyor. Proje geliştikçe açık kaynak topluluğunun katkıları memnuniyetle karşılanacaktır. Yani ZLUDA açık kaynak olarak kalacak veya en azından bugün öyle görünüyor.
ZLUDA’nın artık mali bir destekçisi olsa da sponsor şimdilik isminin gizli kalmasını tercih etti. Sponsorun kim olduğunu ancak tahmin edebiliriz çünkü AI iş yüklerini geniş ölçekte çalıştırmaları gerekiyor ve çoklu GPU sağlayıcı desteğini tercih ediyorlar. Ayrıca, Nvidia’nın bugünlerde onaylamadığı bir çeviri katmanı aracılığıyla CUDA yazılımının çalıştırılması konusunda bir çatışmaya girmekten korkmayacak kadar büyük olduğunu düşünüyoruz. Ancak geliştirici, bu ‘gizli’ sponsorun daha sonra ortaya çıkmasının beklendiğini ve ZLUDA’nın yönü ve gelecekteki desteği hakkında daha fazla bilgi sağlayacağını söylüyor.
