Siber güvenlik araştırmacıları, tespit edilmekten daha iyi kaçabilecek şekilde, geniş ölçekte kötü amaçlı JavaScript kodunun yeni varyantlarını oluşturmak için büyük dil modellerini (LLM’ler) kullanmanın mümkün olduğunu buldu.
Palo Alto Networks Unit 42 araştırmacıları “LLM’ler kötü amaçlı yazılımları sıfırdan oluşturmakta zorlansa da, suçlular bunları kolayca yeniden yazmak veya mevcut kötü amaçlı yazılımları gizlemek için kullanabilir, bu da tespit edilmesini zorlaştırır.” söz konusu yeni bir analizde. “Suçlular yüksek lisans şirketlerini çok daha doğal görünen dönüşümler gerçekleştirmeye yönlendirebilir, bu da bu kötü amaçlı yazılımın tespitini daha da zorlaştırır.”
Zaman içinde yeterli dönüşüm sağlandığında bu yaklaşım, kötü amaçlı yazılım sınıflandırma sistemlerinin performansını düşürerek, kötü niyetli bir kod parçasının aslında iyi huylu olduğuna inandırarak onları kandırma avantajına sahip olabilir.
LLM sağlayıcıları, kontrolden çıkmalarını ve istenmeyen çıktılar üretmelerini önlemek için güvenlik korkuluklarını giderek daha fazla uygularken, kötü aktörler, olası hedeflere yönelik ikna edici kimlik avı e-postaları oluşturma sürecini otomatikleştirmenin ve hatta yeni e-postalar oluşturmanın bir yolu olarak WormGPT gibi araçların reklamını yaptı. kötü amaçlı yazılım.
Ekim 2024’te OpenAI, platformunu keşif, güvenlik açığı araştırması, komut dosyası desteği ve hata ayıklama için kullanmaya çalışan 20’den fazla operasyonu ve yanıltıcı ağı engellediğini açıklamıştı.
Unit 42, Innocent Until Proven Guilty gibi makine öğrenimi (ML) modelleri tarafından tespit edilmekten kaçınmak amacıyla mevcut kötü amaçlı yazılım örneklerini yinelemeli olarak yeniden yazmak için LLM’lerin gücünden yararlandığını söyledi (IUPG) veya Kimlik avıJSişlevselliği değiştirmeden 10.000 yeni JavaScript çeşidinin oluşturulmasının etkili bir şekilde önünü açıyor.
Rakip makine öğrenimi tekniği, kötü amaçlı yazılımı çeşitli yöntemler (yani değişken yeniden adlandırma, dize bölme, önemsiz kod ekleme, gereksiz boşlukların kaldırılması ve kodun tamamen yeniden uygulanması) kullanarak sisteme her beslendiğinde dönüştürmek için tasarlanmıştır. giriş.
Şirket, “Nihai çıktı, orijinal komut dosyasıyla aynı davranışı koruyan, neredeyse her zaman çok daha düşük bir kötü amaçlı puana sahip olan kötü amaçlı JavaScript’in yeni bir çeşididir” dedi ve açgözlü algoritmanın, kendi kötü amaçlı yazılım sınıflandırıcı modelinin kararını kötü amaçlı yazılımdan çevirdiğini ekledi. vakaların %88’i iyi huyludur.
Daha da kötüsü, bu tür yeniden yazılan JavaScript yapıları, VirusTotal platformuna yüklendiğinde diğer kötü amaçlı yazılım analizcileri tarafından tespit edilmekten de kaçınıyor.
LLM tabanlı gizlemenin sunduğu bir diğer önemli avantaj, birçok yeniden yazma işleminin, obfuscator.io gibi kütüphaneler tarafından gerçekleştirilenlerden çok daha doğal görünmesidir; bu kitaplıkların, obfuscator.io’ya değişiklik getirme şekli nedeniyle güvenilir bir şekilde tespit edilmesi ve parmak izi verilmesi daha kolaydır. kaynak kodu.
Unit 42, “Yeni kötü amaçlı kod çeşitlerinin ölçeği, üretken yapay zekanın yardımıyla artabilir” dedi. “Ancak, makine öğrenimi modellerinin sağlamlığını artırabilecek eğitim verilerinin oluşturulmasına yardımcı olmak amacıyla kötü amaçlı kodu yeniden yazmak için aynı taktikleri kullanabiliriz.”
Açıklama, North Carolina Eyalet Üniversitesi’nden bir grup akademisyenin “Saldırı” adı verilen bir yan kanal saldırısı tasarladığı sırada geldi. TPUXtract Google Edge Tensör İşleme Birimlerine model çalma saldırıları gerçekleştirmek (TPU’lar) %99,91 doğrulukla. Bu daha sonra fikri mülkiyet hırsızlığını veya takip eden siber saldırıları kolaylaştırmak için kullanılabilir.
“Özellikle şunu gösteriyoruz: hiperparametre Araştırmacılar, katman türü, düğüm sayısı, çekirdek/filtre boyutları, filtre sayısı, adımlar, dolgu ve aktivasyon işlevi de dahil olmak üzere tüm katman konfigürasyonlarını çıkarabilen çalma saldırısı” dedi. “En önemlisi, saldırımız ilk kapsamlı saldırıdır” daha önce görülmemiş modelleri ortaya çıkarabilir.”
Kara kutu saldırısı, özünde, sinir ağı çıkarımları devam ederken TPU tarafından yayılan elektromanyetik sinyalleri yakalar (çevrimdışı makine öğrenimi modellerini çalıştırmayla ilişkili hesaplama yoğunluğunun bir sonucudur) ve bunları model hiperparametrelerini çıkarmak için kullanır. Ancak bu, düşmanın hedef cihaza fiziksel erişime sahip olmasına ve izleri araştırmak ve elde etmek için pahalı ekipmanlara sahip olmasına bağlıdır.
Araştırmanın yazarlarından Aydın Aysu, “Mimariyi ve katman detaylarını çaldığımız için yapay zekanın üst düzey özelliklerini yeniden yaratmayı başardık” dedi. söz konusu. “Daha sonra bu bilgiyi işlevsel yapay zeka modelini veya bu modelin çok yakın bir vekilini yeniden oluşturmak için kullandık.”
