Microsoft, şirketin AI yanlışlıklarıyla mücadele çabalarına dayanan “düzeltme” adlı yeni bir özellik başlatıyor. AI sistemlerini güçlendirmek için Microsoft Azure kullanan müşteriler artık AI çıktılarındaki yanlış içeriği otomatik olarak algılama ve yeniden yazma yeteneğini kullanabilir.
Düzeltme özelliği, güvenlik açıklarını algılamak, “halüsinasyonları” bulmak ve kötü amaçlı istemleri engellemek için tasarlanmış bir güvenlik araçları paketi olan Azure AI Studio’nun bir parçası olarak önizlemede mevcuttur. Etkinleştirildiğinde, düzeltme sistemi, bir müşterinin kaynak materyaliyle karşılaştırarak AI çıktısındaki yanlışlıkları tarayacak ve belirleyecektir.
Oradan, hatayı vurgulayacak, neden yanlış olduğu hakkında bilgi sağlayacak ve söz konusu içeriği yeniden yazacak — tüm bunlar, kullanıcı yanlışlığı “görmeden önce” gerçekleşecek. Bu, AI modelleri tarafından sıklıkla benimsenen saçmalıkları ele almanın yararlı bir yolu gibi görünse de, tamamen güvenilir bir çözüm olmayabilir.
Google’ın yapay zeka sistemleri geliştiren şirketler için bulut platformu olan Vertex AI, çıktıları Google Arama, şirketin kendi verileri ve (yakında) üçüncü taraf veri kümeleriyle karşılaştırarak yapay zeka modellerini “temellendiren” bir özelliğe sahip.
Bir açıklamada TeknolojiCrunchMicrosoft sözcüsü, “düzeltme” sisteminin “çıktıları temel belgelerle hizalamak için küçük dil modelleri ve büyük dil modelleri kullandığını” söyledi, bu da hatalara karşı bağışık olmadığı anlamına geliyor. Microsoft, “Temel tespitin ‘doğruluk’ için çözüm olmadığını, ancak üretken AI çıktılarını temel belgelerle hizalamaya yardımcı olduğunu belirtmek önemlidir” dedi TeknolojiCrunch.
