Ne bilmek istiyorsun
- Microsoft nihayet sohbet robotlarını kontrolden çıkmaya yönlendiren aldatıcı hızlı mühendislik teknikleri için bir çözüm buldu.
- Ayrıca, kullanıcıların bir sohbet robotunun yanıt üretirken ne zaman halüsinasyon gördüğünü belirlemelerine yardımcı olacak bir araç da başlattı.
- Ayrıca kullanıcıların hızlı mühendislik konusunda daha iyi olmalarına yardımcı olacak ayrıntılı önlemlere de sahiptir.
Üretken yapay zekanın geniş çapta benimsenmesini zorlaştıran en büyük endişelerden biri güvenlik, gizlilik ve güvenilirliktir. Pop yıldızı Taylor Swift’in internette ortaya çıkan yapay zeka tarafından oluşturulan deepfake viral görüntülerinden, Microsoft Copilot’un tapınılmayı talep eden ve insanlığa üstünlük sergileyen iç canavarı Supremacy AGI’yi serbest bırakan kullanıcılara kadar, ilk ikisi son birkaç ayda yapay zeka ortamında hasara neden oldu. .
Şans eseri öyle görünüyor Microsoft’un bir çözümü olabilir, bu sorunlardan bazıları için de olsa. Yakın zamanda paylaşıldığı gibi şirket, anlık enjeksiyon saldırılarını azaltmak ve bunlara karşı koymak için tasarlanan Azure AI sistemi için yeni araçları tanıtıyor.
Microsoft’a göre:
“Kötü niyetli aktörlerin yapay zeka sistemini, zararlı içerik üretmek veya gizli verileri sızdırmak gibi amaçlanan amacı dışında bir şey yapması için manipüle etmeye çalıştığı hızlı enjeksiyon saldırıları, önemli bir zorluk olarak ortaya çıktı.”
Halüsinasyonları tespit etmek daha kolay olacak
Halüsinasyonlar, yapay zeka destekli sohbet robotlarının ortaya çıkışları sırasında karşılaştıkları ana zorluklardan biriydi. Öyle oldular ozan Microsoft’un şiddetli halüsinasyon olaylarını azaltmak için aracına karakter sınırlamaları koymak zorunda kalması kötüydü.
Microsoft Copilot önemli ölçüde daha iyi olsa da bu, sorunun ara sıra devam etmeyeceği anlamına gelmez. Bu nedenle Microsoft, kullanıcıların metin tabanlı halüsinasyonları tanımlamasına yardımcı olmak için tasarlanan Yerleşim Tespiti’ni başlatıyor. Bu özellik, LLM çıktılarının kalitesini desteklemek için metindeki ‘temellenmemiş materyali’ otomatik olarak algılayacak ve sonuçta kalite ve güveni artıracaktır.
Yapay zeka dalgasına atlayan kullanıcılar genellikle OpenAI’nin ChatGPT’sini Microsoft Copilot ile karşılaştırıyor ve eski modelin daha iyi performans gösterdiğini öne sürüyor. Ancak Microsoft yakın zamanda bu iddialara karşı çıktı ve kullanıcıların Copilot AI’nin yeteneklerinden amaçlandığı gibi yararlanmadıklarını belirtti.
Microsoft, çoğu kullanıcının ChatGPT’nin Copilot AI’den daha iyi olduğunu iddia etmesinin ana nedenleri olarak uygun hızlı mühendislik bilgisi eksikliğini ve uygulamaların yeni sürümlerini kullanma konusundaki isteksizliği sıraladı. Şirket, kullanıcıları bu becerilerle donatmak için videolar kullanıyor; kullanıcıların “güvenilir veri kaynaklarına dayalı temel modeller oluşturmasına ve bu temel verilerin ve genel davranışın en iyi şekilde kullanılmasına rehberlik eden sistem mesajları oluşturmasına” olanak tanıyan Azure AI ile bu önermeyi temel alıyor.
Şirket, bir istemdeki ince değişikliklerin sohbet robotunun kalitesini ve güvenliğini önemli ölçüde artırdığını belirtiyor. Microsoft, kullanıcıların etkili sistem mesajları oluşturmasına yardımcı olmak için güvenlik sistemi mesaj şablonlarını doğrudan Azure AI Studio ve Azure OpenAI Hizmetine getirmeyi planlıyor.