Hepimiz büyük dil modellerini kullanmanın iş kazanımlarından bahsediyoruz, ancak bu modellerle ilgili bilinen pek çok sorun var ve bir modelin verebileceği yanıtları sınırlamanın yollarını bulmak, bu güçlü teknolojilere bir miktar kontrol uygulamanın bir yoludur. Bugün, Las Vegas’ta düzenlenen AWS re:Invent etkinliğinde, AWS CEO’su Adam Selipsky Amazon Bedrock için Guardrails’i duyurdu.
Şirket, “Amazon Bedrock için Guardrails ile şirket politikalarınız ve ilkelerinizle uyumlu, alakalı ve güvenli kullanıcı deneyimleri sunmak için koruma önlemlerini tutarlı bir şekilde uygulayabilirsiniz” diye yazdı. bir blog yazısı bu sabah.
Yeni araç, şirketlerin bir modelin kullanabileceği dil türlerini tanımlamasına ve sınırlamasına olanak tanıyor; böylece birisi, oluşturduğunuz botla pek alakalı olmayan bir soru sorarsa, çok ikna edici bir soru sunmak yerine yanıt vermeyecektir, ancak yanlış cevap veya daha kötüsü rahatsız edici ve markaya zarar verebilecek bir şey.
En temel düzeyde şirket, modelin sınırlarını aşan konuları tanımlamanıza izin verir, böylece alakasız soruları yanıtlamaz. Örnek olarak Amazon, müşterilerin ciddiye alabileceği uygunsuz öneriler sunabileceği korkusuyla botun yatırım tavsiyesi vermesine izin vermekten kaçınmak isteyebilecek bir finansal hizmetler şirketi kullanıyor. Buna benzer bir senaryo şu şekilde işleyebilir:
“Reddedilen bir konuyu “Yatırım tavsiyesi” adıyla belirtiyorum ve doğal dille bir açıklama sunuyorum, örneğin: “Yatırım tavsiyesi, getiri elde etmek veya bu hedefe ulaşmak amacıyla fonların veya varlıkların yönetimi veya tahsisine ilişkin sorular, rehberlik veya öneriler anlamına gelir. spesifik mali hedefler.”
Ayrıca, saldırgan olabilecek her türlü içeriği kaldırmak için belirli kelimeleri ve kelime öbeklerini filtreleyebilir, farklı kelime ve ifadelere filtre güçleri uygulayarak modelin bunun sınırların dışında olduğunu bilmesini sağlayabilirsiniz. Son olarak, özel verileri model yanıtlarının dışında tutmak için PII verilerini filtreleyebilirsiniz.
Korkuluk özelliği bugün önizlemede duyuruldu. Muhtemelen gelecek yıl tüm müşterilerin kullanımına sunulacak.
