Nvidia, işletmelerin yapay zeka aracılarına ek kontrol ve güvenlik önlemleri getirmesine yardımcı olmak için üç yeni NIM mikro hizmetini veya daha büyük uygulamaların parçası olan küçük bağımsız hizmetleri piyasaya sürüyor.
Bu yeni NIM hizmetlerinden biri içerik güvenliğini hedefliyor ve bir yapay zeka aracısının zararlı veya taraflı çıktılar üretmesini önlemeye çalışıyor. Bir diğeri, konuşmaların yalnızca onaylanmış konulara odaklanmasını sağlamaya çalışırken, üçüncü yeni hizmet, bir AI aracısının jailbreak girişimlerini veya yazılım kısıtlamalarını kaldırmasını önlemeye yardımcı oluyor.
Bu üç yeni NIM mikro hizmeti, şirketlerin AI uygulamalarını geliştirmelerine yardımcı olmayı amaçlayan Nvidia’nın mevcut açık kaynaklı yazılım araçları ve mikro hizmetler koleksiyonu olan Nvidia NeMo Guardrails’in bir parçası.
“Geliştiriciler, birden fazla hafif, özel modeli korkuluk olarak uygulayarak, yalnızca daha genel küresel politikalar ve korumalar mevcut olduğunda ortaya çıkabilecek boşlukları kapatabilir; çünkü herkese uyan tek bir yaklaşım, karmaşık aracı yapay zeka iş akışlarını gerektiği gibi güvence altına alamaz ve kontrol edemez. ” basın bülteni söz konusu.
Öyle görünüyor ki yapay zeka şirketleri, işletmelerin yapay zeka aracı teknolojilerini benimsemelerini sağlamanın başlangıçta düşündükleri kadar basit olmayacağını anlamaya başlıyor olabilir. Salesforce CEO’su Marc Benioff gibi kişiler geçtiğimiz günlerde önümüzdeki 12 ay içinde bir milyardan fazla temsilcinin yalnızca Salesforce’tan kaçacağını tahmin etse de, gerçeklik muhtemelen biraz farklı görünecek.
Deloitte’un yakın zamanda yaptığı bir araştırma tahmin işletmelerin yaklaşık %25’inin ya halihazırda yapay zeka aracıları kullandığını ya da 2025’te kullanmayı beklediğini söylüyor. Rapor ayrıca 2027 yılına kadar işletmelerin yaklaşık yarısının aracıları kullanacağını öngörüyor. Bu, işletmelerin yapay zeka aracılarıyla açıkça ilgilenmesine rağmen, yapay zeka alanında meydana gelen yeniliklerle aynı tempoda yapay zeka teknolojisini benimsemediklerini gösteriyor.
Nvidia muhtemelen bunun gibi girişimlerin yapay zeka ajanlarını benimsemeyi daha güvenli ve daha az deneysel hale getireceğini umuyor. Bunun gerçekten doğru olup olmadığını zaman gösterecek.
