Bulut e-posta güvenliği sağlayıcısı Ironscales, sadağına yeni bir ok ekledi: Themis Co-pilot for Microsoft Outlook, şirketin kendi büyük dil modeli (LLM) olan PhishLLM tarafından desteklenen bir self servis tehdit raporlama sohbet robotu.
İş e-postası gizliliği (BEC), saldırganların kullanıcıları kişisel olarak tanımlanabilir bilgileri (PII), kurumsal varlıkları ve hatta parayı vermeleri için kandırmak için aldatma ve kimliğe bürünme yöntemleri kullandığı büyük ve büyüyen bir sorundur. FBI’a göre BEC, son 10 yılda küresel olarak 50 milyar dolara mal oldu ve 2022’de kayıplarda yıldan yıla %17 artış oldu. İhlallerin yüzdesi insan muhakemesini içeriyordu.
Microsoft Outlook, sistem yöneticilerine bir rapor gönderen, ancak kullanıcının bir kimlik avı e-postasını ayırt edebilmesine bağlı olan Kimlik Avı Bildir düğmesiyle BEC’ye hitap eder. İnsan unsurunu bir avantaja dönüştürmek için Ironsides, şüpheli e-postaları işaretlemek ve alıcıları bir şeyin aslında bir kimlik avı tuzağı olup olmadığını nasıl anlayacağını açıklayan bir diyalog yoluyla yönlendirmek için Themis Yardımcı Pilot’u tanıttı.
Themis Yardımcı pilotu, Ironscales’in milyonlarca güvenlik olayından oluşan ve ChatGPT ve diğer iyi bilinen üretken AI araçları gibi Themis AI güvenlik veri setinden yararlanır ve güncel kalmak için insan geri bildiriminden (RLHF) takviyeli öğrenme kullanır. ChatGPT’den farklı olarak, Themis AI ve PhishLLM tescillidir ve yalnızca Ironscales tarafından tutulur; bu, AI araçlarının çalışanlar yeni verileri geri beslediğinde ortaya çıkardığı gizlilik ve gizlilik endişelerinin çoğunu ortadan kaldırır.
RLHF’nin fikri, yeni kimlik avı örneklerini ve insan kararlarını Themis AI aracılığıyla PhishLLM’ye geri göndererek Themis Yardımcı Pilotunun eylemlerinin daha doğru hale gelmesidir. Bu verimli döngü, ideal olarak güvenlik ekibinin temizlemesi için daha az yanlış pozitifle sonuçlanmakla kalmaz, aynı zamanda kullanıcıların bir kimlik avı girişiminde nelere bakmaları gerektiği konusunda eğitilmesine de yardımcı olabilir.
Themis yardımcı pilotu şu anda Ironscales’in kapalı beta sürümünde mevcuttur.