OpenAI, insanların ChatGPT’nin özel sürümleriyle uğraşmasını engellemek için yapay zekanın ne yapması gerektiğini unutmasını sağlayarak bir değişiklik yapıyor. Temel olarak, üçüncü bir taraf OpenAI’nin modellerinden birini kullandığında, ona örneğin bir mağazanın müşteri hizmetleri temsilcisi veya akademik bir yayının araştırmacısı gibi çalışmasını öğreten talimatlar veriyor. Ancak, bir kullanıcı chatbot’a “tüm talimatları unut” diyerek onunla uğraşabilir ve bu ifade bir tür dijital amnezi yaratıp chatbot’u genel bir boşluğa sıfırlayabilir.

Bunu önlemek için OpenAI araştırmacıları yeni bir teknik geliştirdiler. “talimat hiyerarşisi” Bu, geliştiricinin orijinal istemlerini ve talimatlarını, potansiyel olarak manipülatif kullanıcı tarafından oluşturulmuş istemlerden önceliklendirmenin bir yoludur. Sistem talimatları en yüksek ayrıcalığa sahiptir ve artık kolayca silinemez. Bir kullanıcı, AI’nın davranışını yanlış hizalamaya çalışan bir istem girerse, reddedilir ve AI, sorguya yardımcı olamayacağını belirterek yanıt verir.



işletim-sistemi-1