Microsoft, “groundedness” (topraklanma) algılama özelliğini ilk olarak Mart ayında tanıttı. Microsoft, bunu kullanmak için bir genAI uygulamasının, belge özetleme ve RAG tabanlı soru-cevap senaryolarında kullanılan grounding belgelerine bağlanması gerektiğini söyledi. O zamandan beri, müşterilerin hatalı bilgi algılandığında engellemenin yanı sıra ne yapabileceklerini sorduklarını söyledi.
Microsoft Kıdemli Ürün Pazarlama Müdürü Katelyn Rothney, “Bu, geleneksel içerik filtrelerinin genellikle üretken AI halüsinasyonlarının oluşturduğu benzersiz riskleri ele almada yetersiz kaldığı, hızla gelişen üretken AI manzarasında önemli bir zorluğun altını çiziyor” diye yazdı. bir blog yazısı.
Şirketin mevcut temellilik algılamasını temel alan Düzeltme aracı, Azure AI İçerik Güvenliği’nin halüsinasyonları gerçek zamanlı olarak hem tanımlamasına hem de düzeltmesine olanak tanır; genAI uygulamalarının kullanıcıları bunlarla karşılaşmadan önce. Önce temelsiz içeriği işaretleyerek çalışır. Daha sonra Azure Güvenlik sistemi, bağlı veri kaynaklarıyla uyumu sağlamak için yanlış kısımları düzeltmek üzere gerçek zamanlı olarak bir yeniden yazma süreci başlatır.
