Prompt Security, bir şirketin AI ürünlerini anında enjeksiyona ve jailbreak’lere karşı korumak için yapay zekayı (AI) kullanan ve aynı zamanda çalışanların hassas verileri yanlışlıkla ChatGPT gibi araçlara beslemesini engelleyen bir çözümle bugün gizlice piyasaya sürüldü.
Organizasyonlar faydaların peşinde üretken yapay zeka (GenAI) konusunda endişe duyuyorlar, ancak aynı zamanda bu yeni araçların ortamlarının güvenliği üzerindeki etkileri konusunda da endişeliler. Yakın zamanda yapılan bir Dark Reading anketinde katılımcılar şunu gördüklerini söyledi: birçok potansiyel risk Üçüncü taraf araçların şeffaf olmaması (%46), GenAI yönergeleri ve politikaları konusunda fikir birliği eksikliği (%43) ve veri yönetişimi endişeleri (%39) dahil olmak üzere GenAI’nın tamamen benimsenmesi.
Prompt Security, bu riskleri ele almak için kuruluştaki GenAI ile her türlü etkileşimi koruduğunu söylüyor: dahili yapay zeka araçları ve AI özelliklerine sahip ticari ürünler, hassas verilerin açığa çıkmasına karşı koruma sağlamak, zararlı içeriği engellemek ve diğerlerini önlemek için her istemi ve model yanıtını kontrol ederek GenAI’ya özgü saldırılar. Prompt Security, anlamsal verileri inceleyerek anında enjeksiyon, jailbreak ve veri çıkarma gibi tehditleri ortadan kaldırabilir. Ve bağlamsal büyük dil modelleri (LLM’ler) hassas verileri tespit edip çıkararak müşteri ve çalışan bilgilerinin yanı sıra fikri mülkiyet haklarını da kazara açığa çıkmaya karşı korur.
Ayrıca çözüm, bir kuruluş içinde kullanılan yapay zeka araçları dizisini de kataloglar. Güvenlik ekibi, insanların bu araçları nasıl kullandığını görebilir ve erişim politikalarını uygulama ve kullanıcı grubuna göre tanımlayabilir.
Prompt Security’nin kurucu ortakları nereden geldi? Orca GüvenliğiCEO Itamar Golan’ın daha önce ML ve AI’nın başkanı olduğu ve CTO Lior Drihem’in inovasyonun başkanı olduğu yer. 5 milyon dolarlık başlangıç turu, Four Rivers ve çok sayıda melek yatırımcının katılımıyla Hetz Ventures tarafından yönetildi.