Amazon Web Services (AWS), devam eden re:Invent konferansında, kuruluşların yapay zeka (AI) halüsinasyon örneklerini azaltmalarına yardımcı olacak yeni bir hizmet başlattı. Pazartesi günü başlatılan Otomatik Muhakeme kontrol aracı, önizleme aşamasında mevcuttur ve Amazon Bedrock Guardrails’de bulunabilir. Şirket, aracın büyük dil modelleri (LLM) tarafından oluşturulan yanıtların doğruluğunu matematiksel olarak doğruladığını ve halüsinasyonlardan kaynaklanan gerçek hataları önlediğini iddia etti. Hem Gemini API’sinde hem de Google AI Studio’da bulunan Google Arama ile Topraklama özelliğine benzer.
AWS Otomatik Muhakeme Denetimleri
Yapay zeka modelleri sıklıkla yanlış, yanıltıcı veya kurgusal yanıtlar üretebilir. Bu, yapay zeka halüsinasyonu olarak biliniyor ve bu sorun, özellikle kurumsal alanda kullanıldığında yapay zeka modellerinin güvenilirliğini etkiliyor. Şirketler yapay zeka sistemini yüksek kaliteli kurumsal veriler üzerinde eğiterek sorunu bir şekilde hafifletebilirken, eğitim öncesi veriler ve mimari kusurlar yapay zekanın halüsinasyon görmesine neden olabilir.
AWS, yapay zeka halüsinasyonuna yönelik çözümünü bir blog yazısı. Otomatik Muhakeme kontrol aracı yeni bir koruma olarak sunuldu ve önizleme aşamasında Amazon Bedrock Guardrails’e eklendi. Amazon, LLM’ler tarafından oluşturulan bilgileri doğrulamak için “matematiksel, mantık tabanlı algoritmik doğrulama ve akıl yürütme süreçlerini” kullandığını açıkladı.
Süreç oldukça basittir. Kullanıcıların, kuruluşun kurallarını açıklayan ilgili belgeleri Amazon Bedrock konsoluna yüklemeleri gerekecektir. Bedrock bu belgeleri otomatik olarak analiz edecek ve doğal dildeki metni matematiksel bir formata dönüştürecek bir ilk Otomatik Akıl Yürütme politikası oluşturacak.
İşlem tamamlandıktan sonra kullanıcılar, Korumalar bölümünün altındaki Otomatik Muhakeme menüsüne geçebilirler. Burada yeni bir politika oluşturulabilir ve kullanıcılar, yapay zekanın öğrenmesi gereken bilgileri içeren mevcut belgeleri ekleyebilir. Kullanıcılar ayrıca işleme parametrelerini ve politikanın amacını manuel olarak ayarlayabilir. Ayrıca yapay zekanın tipik bir etkileşimi anlamasına yardımcı olmak için örnek sorular ve cevaplar da eklenebilir.
Tüm bunlar tamamlandıktan sonra yapay zeka konuşlandırılmaya hazır olacak ve Otomatik Muhakeme kontrol aracı, sohbet robotunun herhangi bir yanlış yanıt vermesi durumunda otomatik olarak doğrulayacaktır. Araç şu anda yalnızca ABD Batı (Oregon) AWS bölgesinde önizleme aşamasında sunulmaktadır. Şirket yakın zamanda bu özelliği diğer bölgelere de sunmayı planlıyor.
