Büyük veri kümeleri kullanılarak kapsamlı eğitimle oluşturulan büyük sinir ağı GPT-3, siber güvenlik uygulamalarına doğal dil tabanlı tehdit avcılığı, istenmeyen içeriğin daha kolay kategorize edilmesi ve karmaşık veya karmaşık kötü amaçlı yazılımların daha net açıklamaları dahil olmak üzere çeşitli avantajlar sağlar. Önümüzdeki hafta Black Hat USA konferansında sunulacak araştırma için.
Siber güvenlik firması Sophos’tan iki araştırmacı, Generative Pre-trained Transformer’ın (daha yaygın olarak GPT-3 olarak bilinir) üçüncü sürümünü kullanarak, teknolojinin “bana giden bağlantılar yapan tüm kelime işlem yazılımlarını göster” gibi doğal dil sorgularını dönüştürebileceğini buldu. Güney Asya’daki sunucular”, güvenlik bilgileri ve olay yönetimi (SIEM) sistemine yapılan isteklere dönüştürülür. GPT-3 ayrıca az sayıda web sitesi sınıflandırması örneği almakta ve bunları diğer siteleri kategorize etmek için kullanmakta, suç siteleri veya istismar forumları arasında ortak noktalar bulmakta çok iyidir.
Black Hat araştırmasının iki yazarından biri ve Sophos yapay zeka baş bilimcisi Joshua Saxe, GPT-3’ün her iki uygulamasının da şirketlere ve siber güvenlik analistlerine önemli ölçüde zaman kazandırabileceğini söylüyor.
“Bu noktada üretimde GPT-3 kullanmıyoruz, ancak GPT-3 ve büyük derin öğrenme modelleri görüyorum – emtia donanımı üzerine inşa edemedikleriniz – bu modelleri stratejik siber savunma için önemli görüyorum” diyor. . “GPT-3 tabanlı bir yaklaşım kullanarak çok daha iyi – çarpıcı biçimde daha iyi – sonuçlar alıyoruz, o zaman daha küçük modeller kullanarak geleneksel yaklaşımlarla elde edeceğiz.”
araştırma en son uygulama GPT-3, modelin doğal dil sorgularını makine komutlarına, program koduna ve görüntülere çevirmedeki şaşırtıcı etkinliğini göstermek için. GPT-3’ün yaratıcısı OpenAI, örneğin, doğal dil yorumlarından ve basit işlev adlarından kod üretebilen otomatik bir çift programlama sistemi olan Copilot’u oluşturmak için GitHub ile birlikte çalıştı.
GPT-3, sonuçları içerik oluşturan ikinci bir sinir ağına geri beslemek için derin öğrenme algoritmalarının kalıpları tanıma yeteneğini kullanan üretken bir sinir ağlarıdır. Örneğin, görüntüleri tanımak için bir makine öğrenimi sistemi, metni orijinal sanat eserine dönüştürmek için kullanılan ikinci bir sinir ağından elde edilen sonuçları sıralayabilir. Makine öğrenimi modeli, geri bildirim döngüsünü otomatik hale getirerek, hızlı bir şekilde yeni yapay zeka sistemleri oluşturabilir. sanat üreten DALL-E.
Teknoloji o kadar etkili ki, Google’daki bir AI araştırmacısı, geniş dilli bir sohbet robotu modelinin bir uygulamasının bir uygulama olduğunu iddia etti. duyarlı hale geldi.
GPT-3 modelinin incelikli öğrenilmesi Sophos araştırmacılarını şaşırtsa da, onlar teknolojinin siber güvenlik analistlerinin ve kötü amaçlı yazılım araştırmacılarının işini kolaylaştırmak için kullanımına çok daha fazla odaklanıyorlar. İçinde Black Hat’teki yaklaşan sunumlarıSaxe ve Sophos araştırma arkadaşı Younghoo Lee, en büyük sinir ağlarının nasıl faydalı ve şaşırtıcı sonuçlar sunabileceğini gösterecek.
Sophos araştırmacıları, tehdit avcılığı ve web sitelerini sınıflandırmak için sorgular oluşturmaya ek olarak, belirli siber güvenlik görevleri için GPT-3 modelinin performansını iyileştirmek için üretken eğitim kullandılar. Örneğin araştırmacılar, karmaşık ve karmaşık bir PowerShell betiği aldı, onu farklı parametreler kullanarak GPT-3 ile çevirdi ve ardından işlevselliğini orijinal betikle karşılaştırdı. Orijinal komut dosyasını orijinaline en yakın şekilde çeviren yapılandırma en iyi çözüm olarak kabul edilir ve daha sonra ileri eğitim için kullanılır.
Saxe, “GPT-3, geleneksel modeller kadar iyi yapabilir, ancak küçük bir avuç eğitim örneği ile” diyor.
Şirketler, “AI/ML” ürün pazarlamasında olmazsa olmaz bir terim haline geldiğinden, teknolojinin verimliliğini artırmak için gerekli olan yapay zeka ve makine öğrenimine yatırım yaptı.
Yine de AI/ML modellerinden yararlanma yolları beyaz tahta teorisinden pratik saldırılara sıçradı. Hükümet yüklenicisi MITRE ve bir grup teknoloji firması, yapay zeka sistemlerine karşı düşmanca saldırılar ansiklopedisi oluşturdu. Olarak bilinir Yapay Zeka Sistemleri veya ATLAS için Olumsuz Tehdit Manzarasıtekniklerin sınıflandırılması, Microsoft’un Tay sohbet robotunda olduğu gibi eğitim verilerini zehirlemek için gerçek zamanlı öğrenmeyi kötüye kullanmayı, araştırmacıların Cylance’in kötü amaçlı yazılım tespit motoruyla yaptıkları gibi makine öğrenimi modelinin yeteneklerinden kaçınmayı içerir.
Saxe, nihayetinde yapay zekanın savunuculara saldırganlardan daha fazlasını sunabileceğini söylüyor. Yine de, teknoloji kullanmaya değer olsa da, saldırganlar ve savunucular arasındaki dengeyi önemli ölçüde değiştirmeyeceğini söylüyor.
Saxe, “Konuşmanın genel amacı, bu büyük dil modellerinin sadece hype değil, gerçek olduklarına ve siber güvenlik araç kutumuzda nereye uyduklarını bulmamız gerektiğine ikna etmektir” diyor.