ChatGPT ve diğer büyük dil modeli (LLM) uygulamaları ya bir sonraki “dilimlenmiş ekmek” olarak övülürken ya da ekonominin potansiyel olarak yok edilmesiyle suçlanırken, Berkeley’deki Kaliforniya Üniversitesi’nden iki profesör ve bir yapay zeka geliştiricisi, teknolojiyi pratik kullanıma sokuyor. Doğal dil sorgularıyla siber güvenlik otomasyonu ve otomatik yanıtların iyileştirilmesi.
Berkeley Yapay Zeka Araştırma (BAIR) Laboratuvarı’ndan UC Berkeley profesörleri Jiantao Jiao ve Kurt Keutzer ile birlikte eski Stanford Yapay Zeka Laboratuvarı’ndan olan ve yapay zeka girişimi SambaNova Systems’de makine öğrenimi direktörü olan Jian Zhang tarafından kurulan yeni başlatılan Nexus akışı Ağ ve güvenlik operasyonlarındaki zorluklara yönelik çözümlerin belirlenmesine yardımcı olmak için hem doğal dili hem de veritabanlarını birleştirerek karar alma ve iş akışlarını daha fazla tanımlamanın ve otomatikleştirmenin bir yolu olarak kendisini güvenlik operasyonları merkezine (SOC) yerleştiriyor gibi görünüyor.
Geçmişte bir yapay zeka uygulaması yeni verilere yanıt verirken zaten bildiği bilgilerle sınırlıyken Jiao, Nexusflow yaklaşımının karar verme fonksiyonunun mevcut deneyimi olmayan durumları belirlemesine ve yanıt bulmak için harici veritabanlarını sorgulamasına olanak tanıdığını söylüyor. veya nasıl ilerleneceğine dair talimatlar talep etmek üzere insan uzmanları işaretlemek. Temel olarak, yazılımın yalnızca bilinen verileri kullanmaktan, örneklere ve varsayımlara dayalı olarak daha sezgisel kararlar almaya doğru bir sıçrama yapmaya başladığını söylüyor.
Yapay Zeka Uygulamasının Eğitimi
Jiao, yazılımın öğrenme sürecinin bir kısmının, kılavuzları etkili bir şekilde okuyarak çeşitli API’ler ve uygulamalar hakkında bilgi edinmek ve “farklı kaynaklardan parçalanmış bilgileri sentezlemek” olduğunu söylüyor. Ayrıca analistler yazılıma bir sorunun nasıl çözüleceğini gösterebilir ve uygulama bu örnekten ders alacaktır. Ancak Jiao, her düzeltmenin gösterilebildiği için uygulamaya sorunlara çözüm için birden fazla örnek verildiğini ve uygulamanın bu verileri birleştirdiğini ve benzer sorunların nasıl çözüldüğüne bağlı olarak yeni sorunlar ortaya çıktıkça nasıl çözüleceğini kendi başına öğrendiğini açıklıyor.
Jiao, sonuçta programın bir güvenlik analistinden basit bir talep alabileceğini ve birden fazla ağ üzerinde kapsamlı analitik çalışmalar yürütebileceğini söylüyor. Örneğin program, bir güvenlik analistinden gelen “Bulut yapılandırmamı gözden geçirin ve açıkta kalan bit grubu olmadığından emin olun” gibi bir doğal dil isteğini kabul edebilecek ve bu işlevi yerine getirebilecektir.
Şirket, kendi açık kaynak LLM’sini kullanıyor. NexusRaven-13BCVE/CPE arama araçları ve VirusTotal’da %95 başarı oranına ulaşabildiğini iddia ediyor. Jiao, GPT-4’ün yalnızca %64’lük bir başarı oranına ulaştığını belirtiyor.
SOAR’ı Artırma
Günümüzde kullanımda olan güvenlik orkestrasyonu ve otomasyon (SOAR) araçları, SOC’de karar yanıtını iyileştirmektedir, ancak çoğu zaman araçlar, bilinmeyen durumlarla baş edememeleri nedeniyle sınırlıdır ve SOC analistlerinin birçok sıradan işlevi ele almasını gerektirir. Sonuç olarak, genellikle yüksek maaş alan bu personelin zamanı, SOAR’ı uygulamanın gizli bir maliyeti haline geliyor.
Panther Labs saha CISO’su Ken Westin şöyle diyor: “SOAR platformları bir olay hakkında ek bağlam toplamak için başarılı bir şekilde kullanıldı; ancak bunlar, bir insan analistin tehdit riskini ve karşılık gelen tepkileri değerlendirmede sahip olduğu karar verme yeteneklerinden yoksundur. Bunun çözümü, SOAR taktik kitabındaki verileri toplamak ve daha sonra yanıt için otomatikleştirilmiş taktik kitapları çalıştırabilecek bir analiste sunmak olmuştur. Bu sürecin otomasyon, yapay zeka gibi durumlarda dikkate alınması gerekir. ve diğer teknolojiler, bir analistin hızlı karar verme yeteneğini geliştirmek, güçlendirmek ve genişletmek için kullanılır.”
Jiao, mevcut SOAR uygulamalarının müdahaleyi tamamen otomatikleştirmeyi vaat etmesine rağmen karar verme yeteneklerinin sınırlı olduğunu kabul ediyor. Nexusflow yaklaşımı, bir yanıtı netleştirmek veya uygulamayı nasıl yanıt vereceğini eğitmek gerektiğinde insan uzmanlar tarafından desteklenen bu yanıtları daha da otomatikleştirir.
Siber güvenlik açısından bakıldığında Nexusflow, tüketici sınıfı ChatGPT ürünleri gibi genel bir buluta ihtiyaç duymaz. Kendi kendine yettiği için şirketler, gizli verilerin potansiyel rakiplere açıklanmamasını veya başka bir şekilde kamuya açıklanmamasını sağlayabilir.
Bazı kuruluşlar, şirket içi veri merkezlerinde saklanacak son derece gizli verilere ihtiyaç duyar; bu nedenle Nexusflow, yazılımının yerel bir veri merkezinde veya özel bir bulutta çalıştırılmasına izin verir. Daha küçük kuruluşlar veya belki de bu gelişmiş yapay zeka işlevselliğini gerektiren ancak kurumsal veri merkezinden uzakta olan uzak bir tesis için bir şirket, uygulamayı yerel olarak çalıştırmak üzere bağımsız, prefabrik bir modüler veri merkezi dağıtabilir.
Şirket, Eylül ayı sonunda gizlilik modundan çıkan Nexusflow’un, Fusion Fund ve Silikon Vadisi’nden çeşitli yapay zeka sektörü yöneticilerinin katılımıyla Point72 Ventures liderliğindeki tohum finansmanından 10,6 milyon dolar topladığını söyledi. Fonlar, yazılım geliştirme ve test ekipmanlarının satın alınması, yazılım test altyapısı ve şirketin büyümesinin finansmanı için kullanılacak.