Microsoft, yapay zeka iş yükleri için Singularity adlı yeni bir “gezegen ölçeğinde” zamanlama sistemi üzerinde çalıştığını açıkladı.
Teknik olarak açıklandığı gibi kağıt Firma tarafından yayınlanan Singularity, “küresel bir AI hızlandırıcısı hissi üzerinde doğruluklarını veya performanslarını etkilemeden yüksek kullanımı sağlamak için derin öğrenme iş yüklerini şeffaf bir şekilde önleyebilen ve esnek bir şekilde ölçekleyebilen yeni, iş yüküne duyarlı bir zamanlayıcıdır”.
Teknik olmayan bir deyişle, bu, sistemin şirketin küresel ağının sağlanmasına yardımcı olmak için tasarlandığı anlamına gelir. sunucu donanım optimum şekilde kullanılır, böylece AI iş yüklerinin çalıştırılmasıyla ilişkili maliyetler azaltılır.
Microsoft Tekilliği
Singularity değer teklifinin merkezinde, işleri akışın ortasında yeniden boyutlandırma ve bunları dünya genelinde bulunan farklı altyapılar arasında kaydırma yeteneği yatmaktadır.
Makalede açıklandığı gibi, canlı bir iş farklı bir kümeye veya veri merkezine taşınabilir ve tam kaldığı yerden devam ettirilebilir, böylece kapasite kullanımı optimize edilebilir. Ayrıca, gerektiğinde değişen sayıda ve türde AI hızlandırıcıdan yararlanarak elastik olarak yukarı veya aşağı ölçeklenebilir.
Microsoft, bu sistemin güzelliğinin, Singularity’nin çalışması için hiçbir kod değişikliği gerekmediğinden, geliştiriciler adına ek bir çalışma gerektirmemesi olduğunu söylüyor.
Ancak tüm bunları mümkün kılmak için Microsoft’un iş yüklerini donanım kaynaklarından ayırmanın bir yolunu bulması gerekiyordu. Yeni çözüm, şirketin kendi adres alanında çalışan ve kaynakların akıcı bir şekilde yeniden tahsisine izin veren bir ayırma katmanı oluşturan bir “cihaz proxy’si” dediği bir şeyi kullanır.
Microsoft, özetinde, “Singularity, derin öğrenme iş yüklerini zamanlamada, esneklik gibi niş özellikleri ana akım, zamanlayıcının sıkı SLA’ları uygulamak için güvenebileceği her zaman açık özelliklere dönüştürerek önemli bir atılım gerçekleştiriyor” diye yazdı.
“Değiştirilmemiş işleri önemsiz performans yükü ile öncelikli ve yeniden boyutlandırılabilir hale getiren yeni mekanizmalarla Singularity, işlerin küresel olarak dağıtılmış filonun herhangi bir yerindeki yedek kapasiteden faydalanmasını mümkün kılarak, benzeri görülmemiş düzeyde iş yükü değiştirilebilirliği sağlar.”
Zamanlama hizmeti makalenin baskın odak noktası olmasına rağmen, yazarlar sistemin yüz binlerce GPU ve diğer AI hızlandırıcılarından oluşan bir filoya ölçeklenmek üzere tasarlandığını belirtiyorlar.
TechRadar Pro Microsoft’a, Singularity’nin ne zaman ticari olarak kullanıma sunulmasını beklediğini sordu.