Microsoft, Copilot AI’nin kontrolden çıkması için kandırmak amacıyla hızlı enjeksiyon saldırıları kullanmanızı istemiyor ve artık bunu önleyecek araca sahip
Ne bilmek istiyorsun Microsoft nihayet sohbet robotlarını kontrolden çıkmaya yönlendiren aldatıcı hızlı mühendislik teknikleri için bir çözüm buldu. Ayrıca, kullanıcıların bir sohbet robotunun yanıt üretirken ne zaman halüsinasyon gördüğünü belirlemelerine…