Güvenlik girişimi Knostic, kuruluşların üretken yapay zeka (AI) araçlarını benimserken karşılaştıkları çeşitli zorlukları ele alan en son şirkettir. Bu hafta Knostic, büyük dil modellerine (LLM’ler) “bilinmesi gereken” erişim kontrollerini getirmek için 3,3 milyon dolarlık ön finansmanla gizlilikten çıktı.
Kurucu ortağı ve CEO’su Gadi Evron, yapay zeka dönüşüm yolculuğundaki şirketlerin üretkenliği artırmak, maliyetleri azaltmak ve verimliliği artırmak için iş akışları ve süreçleri boyunca yapay zeka yeteneklerini serpiştirdiğini söylüyor. Knostik. Kuruluşlar, kendi veri kaynaklarına dayalı olarak veya hâlihazırda kullanmakta oldukları uygulama ve platformlarda paketlenmiş yetenekleri etkinleştirerek ChatGPT benzeri kurumsal arama sistemleri oluşturmak için LLM’leri benimsiyor. Evron, veri gizliliğinin yapay zekanın benimsenmesinin önündeki en büyük engellerden biri olduğunu söylüyor ve kontrolleri olmayan yapay zekanın, öncelikle bilgilerin yanlış kişilere ifşa edilmesi yoluyla kuruluşu potansiyel olarak artan riske maruz bıraktığını belirtiyor.
“Kişiselleştirilmiş bilgileri nasıl düzenleyebiliriz ve size gerçekten değer verebiliriz; sadece bir şeyler söylemek yerine bilmeniz gerekenleri yanıtlayarak nasıl yanıt verebiliriz?” Evron diyor.
Yüksek Lisans’lar için Erişim Kontrolü Gereklidir
Knostic ile çalışanlar ihtiyaç duydukları bilgilere erişebilir ve işlerini gerçekleştirmek için ihtiyaç duydukları bilgilerle uyumlu yanıtlar alabilirler.
Örneğin bir kuruluş, bir sonraki ürün sürümünde beklenen özellikler, en son satış rakamları ve gelir rakamları, prim yapısı, birleşme ve satın alma senaryosunda durum tespiti sonuçları veya bir şirketin durumu gibi soruları yanıtlayan bir sisteme sahip olabilir. altyapı projesi. Ancak herkes her soruya aynı cevabı almamalıdır. Evron, CFO ve CTO’nun üç aylık satış gelirini bilmesi gerektiğini, ancak pazarlama stajyerinin muhtemelen bilmeyeceğini belirtiyor.
Knostic’in erişim kontrol motoru, cevabın soruyu soran kişinin rolüne uygun olup olmadığını değerlendirir; Değilse Evron, “Üzgünüm, bu gizli bir bilgi” şeklinde yanıt veriyor. Ya da sadece hayır demek yerine sistem, cevap gizli olsa bile stajyerin üzerinde çalıştığı pazarlama kampanyalarının çeyrek boyunca satışları artırdığını söyleyebilir. Kişiselleştirme ve iyileştirmenin devreye girdiği yer burasıdır.
Evron, erişim kontrolünün ikili bir yapıya sahip olduğunu vurgulamaya özellikle dikkat etti; kişi erişime sahip olabilir ya da olamaz. Knostic’in “bilinmesi gerekenler”e odaklanması, cevap hayır olsa bile bazı bilgilerin sağlanmasını mümkün kılıyor.
Evron, “Hayır dediğimizde, işi mümkün kılmıyoruz” diyor ve farklı bir formatta veya ilgili bağlamda bilgi sağlamanın, iş kullanıcılarına sadece hayır demekten daha fazla yardımcı olduğunu belirtiyor. “Neyi bilmenize izin verildiğini öğrendikten sonra DLP’yi çözebilirsiniz [data loss prevention] ve IAM[kimlikerişimyönetimi”[identityaccessmanagement”
‘Bilinmesi Gerekenler’ Neye benziyor
Knostic’in yardımcılarından Sounil Yu, erişim kontrolünü düşünürken, sistemin dahili mi yoksa halka açık mı olduğu, yanıtları oluşturmak için kullanılan verilerin hassas olup olmadığı ve soruları soran kişinin rolü gibi faktörleri dikkate alması gerektiğini söylüyor. kurucusu ve CTO’su.
Kötüye kullanımı önlemek ve zarara neden olabilecek yanıtlar vermemek için kuruluşların yapay zeka sistemlerine nasıl korkuluklar inşa etmeleri gerektiği konusunda çok fazla tartışma yapıldı. Ancak Yu, bu yaklaşımın herkese uyan tek bir yaklaşım olduğunu ve kişinin özel koşullarını hesaba katmadığını söylüyor. Kamuya açık kaç tane chatbot’un tıp uzmanı olmadıkları ve teşhis amacıyla kullanılmamaları gerektiği için tıbbi bilgi sağlamayacağını düşünün. Ancak bir soruşturmanın parçası olarak bilgiye erişmeye çalışan bir doktorsa, bu kısıtlamanın bir faydası olmaz. Erişim kontrolü, korkuluklardan farklı olarak yanıtların nasıl şekillendirileceğini belirlemek için zaman, verilerin hassasiyeti ve kişinin rolü gibi faktörleri dikkate alır.
Örneğin bir şirketin, sık karşılaşılan sorunları gideren ve çözmede yardımcı olan bir müşteri hizmetleri sohbet robotu olabilir. Bu sohbet robotu, müşteri hizmetleri temsilcisinin sahip olduğu aynı dahili bilgi bankası makalelerine erişebilecek. Peki, henüz piyasada bulunmayan bir ürün hakkında bilgi varsa ne olur? Müşteri hizmetleri temsilcisinin, ürün mevcut olduğunda ve hatta eğitim amacıyla önceden hazır olması için bu bilgilere ihtiyacı vardır. Ancak müşteri lansmandan önce ürünle ilgili ayrıntıları chatbottan öğrenirse o şirket için pek çok sorun olabilir.
Şirket, biri dahili kullanım için, diğeri halka açık olmak üzere iki sistem oluşturmak yerine, müşteriye ve müşteri hizmetleri temsilcisine farklı yanıtlar sağlamak için Knostic’in yaklaşımını kullanabilir.
Şirket Detayları
Evron ve Yu’nun derin bir endüstri uzmanlığı var. Evron, siber aldatma şirketi Cymmetria’yı kurdu ve daha önce Citibank ve PwC’de görev aldı. Yu, Bank of America’nın eski baş güvenlik bilimcisi ve eski CISO’su ve JupiterOne’da araştırma başkanıdır.
2023 yılında kurulan Knostic, Shield Capital, Pitango First, DNS Ventures, Seedcamp ve birkaç melek yatırımcıdan tohum öncesi finansman olarak 3,3 milyon dolar topladı. Ulusal Güvenlik Ajansı’nın eski başkanı ve Knostic’in danışma kurulu üyesi olan emekli Amiral Mike Rogers, yaptığı açıklamada girişimin “işletmeler için Yüksek Lisans’ın kilidini açacağını” söyledi.
Knostic’in perakende ve finansal hizmetler de dahil olmak üzere çeşitli sektörlerde müşterileri bulunmaktadır. Aynı zamanda ilk üç finalistten biri. 2024 RSA Konferansı Başlatma Paneliİki yıl veya daha kısa süredir kurulmuş şirketlerin kurucularının, risk sermayedarlarından oluşan bir panele “bir sonraki büyük şey olma yolunda” fikirlerini ve ürünlerini sunabildiği yer. Bu yılki Launch Pad 7 Mayıs Salı günü gerçekleşecek.
