Farklı medya türleri ve etki alanlarında çalışan yapay zeka (AI) modelleri (“multimodal AI” olarak da bilinir), saldırganlar tarafından ikna edici dolandırıcılıklar oluşturmak için kullanılabilir. Aynı zamanda savunucular, çok modlu yapay zekanın sahte e-postaları ve iş için güvenli olmayan (NSFW) materyalleri tespit etmede eşit derecede yararlı olduğunu düşünüyor.
Siber güvenlik firması Sophos’taki araştırmacılara göre, büyük bir dil modeli (LLM), farklı markaları taklit eden daha önce görülmemiş e-posta örneklerini, F1 puanı olarak bilinen bir ölçümle ölçülen %97’den daha iyi bir doğrulukla doğru bir şekilde sınıflandırabilir. 4 Ekim’de Virüs Bülteni Konferansı. Mevcut e-posta güvenliği ve içerik filtreleme sistemleri daha önce karşılaşılan markaları kullanan mesajları tespit edebilirken, çok modlu yapay zeka sistemleri, sistem benzer e-posta örnekleri üzerinde eğitilmemiş olsa bile en son saldırıları tespit edebilir. .
Diğer siber güvenlik firmalarına katılan Sophos’ta kıdemli veri bilimci olan Ben Gelman, bu yaklaşımın büyük olasılıkla e-posta güvenliği ürünlerinde bir özellik olmasa da, güvenlik analistleri tarafından son aşama bir filtre olarak kullanılabileceğini söylüyor: Google, Microsoft ve Simbian gibiGüvenlik analistlerini güçlendirmek ve onlara yardımcı olmak için Yüksek Lisans ve diğer üretken yapay zeka modellerini kullanmanın yeni yollarını araştırmak ve olay müdahalesinin hızlandırılmasına yardımcı olun.
“Yapay zeka ve siber güvenlik birleşiyor ve tüm bu yapay zeka tarafından üretilen saldırı/yapay zeka tarafından üretilen savunma [approach] siber güvenlik alanında doğal hale gelecek” diyor ve şöyle devam ediyor: “Bu, analistlerimiz için bir güç çarpanı. SOC analistlerimizi yapay zeka tabanlı araçlarla desteklediğimiz bir dizi projemiz var ve bunların hepsi onları daha verimli hale getirmek ve tüm bu bilgi ve güveni parmaklarının ucuna getirmekle ilgili.”
Saldırganların Taktiklerini Anlamak
Saldırganlar ayrıca e-posta tuzaklarını ve saldırı kodlarını geliştirmek için Yüksek Lisans’ı kullanmaya başladı. Microsoft, Google ve OpenAI Hepsi, ulus devlet gruplarının bu halka açık LLM’leri, hedef odaklı kimlik avı tuzakları ve web sitelerini kazımak için kullanılan kod parçacıkları oluşturmak gibi çeşitli görevler için kullandığı konusunda uyardı.
Araştırmalarının bir parçası olarak Sophos ekibi bir e-ticaret dolandırıcılığı kampanyasının başlatılmasını otomatikleştirmek için bir platform oluşturduÇok modlu üretken yapay zeka ile ne tür saldırıların mümkün olabileceğini anlamak için . Platform beş farklı yapay zeka aracısından oluşuyordu: ürünler ve hizmetler hakkında bilgi üretmek için bir veri aracısı, görseller oluşturmak için bir görüntü aracısı, her türlü ses ihtiyacı için bir ses aracısı, özel kodu oluşturmak için bir kullanıcı arayüzü aracısı ve bunları yönetmek için bir reklam aracısı. pazarlama materyalleri oluşturun. Otomatik ChatGPT hedef odaklı kimlik avı ve dolandırıcılık kampanyalarının özelleştirme potansiyeli, büyük ölçekli mikro hedefleme kampanyalarıyla sonuçlanabilir. Sophos araştırmacıları 2 Ekim’deki analizlerinde şunu belirtti:.
“[W]Araştırmacılar, bu tekniklerin özellikle tüyler ürpertici olduğunu görebiliyoruz, çünkü kullanıcılar en etkili mikro hedeflemeyi rastlantısal tesadüfler olarak yorumlayabilirler,” diye belirtti araştırmacılar. “Hedef odaklı kimlik avı önceden özel bir manuel çaba gerektiriyordu, ancak bu yeni otomasyonla, belirli bir ölçekte kişiselleştirmeyi başarmak mümkün bu daha önce görülmemişti.”
Bununla birlikte Sophos henüz bu düzeyde bir yapay zeka kullanımıyla vahşi ortamda karşılaşmadı.
Cisco Security Yapay Zeka mühendisliği başkan yardımcısı Anand Raghavan, savunucuların yapay zeka destekli siber saldırganların daha kaliteli sosyal mühendislik tekniklerine ve daha hızlı inovasyon döngülerine sahip olmasını beklemesi gerektiğini söylüyor.
“Sorun yalnızca e-postaların kalitesi değil, aynı zamanda bunu otomatikleştirme yeteneği de GPT ve diğer yapay zeka araçlarının gelişinden bu yana büyük bir artış gösterdi” diyor. “Saldırganlar sadece giderek daha iyi hale gelmekle kalmadı, aynı zamanda katlanarak daha da iyi hale geldi.”
Anahtar Kelime Eşlemenin Ötesinde
Sophos’un AI grubunun baş veri bilimcisi Younghoo Lee, e-postaları işlemek ve bunları metin açıklamalarına dönüştürmek için Yüksek Lisans kullanmanın daha iyi doğruluk sağladığını ve analistlerin normalde gözden kaçabilecek e-postaları işlemesine yardımcı olabileceğini belirtti: Virus Bulletin konferansında sunulan araştırmalarda.
“[O]Hem metin hem de resim girişlerinden yararlanan çok modlu yapay zeka yaklaşımımız, özellikle görünmeyen tehditlerle karşı karşıya kalındığında kimlik avı girişimlerini tespit etmek için daha sağlam bir çözüm sunuyor” dedi. Sunumuna eşlik eden makalede şunları söyledi: “Hem metin hem de resim özelliklerinin kullanılmasının, birden fazla markayla uğraşırken daha etkili olun”.
Cisco’dan Raghavan, e-postadaki metnin bağlamını işleme yeteneğinin, resimlerdeki sözcükleri ve bağlamı “anlama” yönündeki multimodal yeteneği artırdığını ve bir e-postanın daha kapsamlı bir şekilde anlaşılmasına olanak sağladığını söylüyor. Yüksek Lisans’ın yalnızca şüpheli dili tespit etmeye değil, aynı zamanda kullanıcıyı iş açısından kritik bir eylemde bulunmaya teşvik eden e-postalar gibi tehlikeli bağlamlara da odaklanabilme yeteneğinin, onları analize yardımcı olma konusunda çok faydalı kıldığını söylüyor.
Para, kimlik bilgileri, hassas veriler veya gizli süreçlerle ilgili iş akışlarını tehlikeye atmaya yönelik her türlü girişim işaretlenmelidir.
Raghavan, “Bir sınıflandırıcı olarak dil, aynı zamanda kritik iş akışları dediğimiz şeyleri tanımlayarak yanlış pozitifleri azaltmamıza da çok güçlü bir şekilde olanak sağlıyor” diyor. “Bir saldırgan kuruluşunuzun güvenliğini tehlikeye atmak istiyorsa dört tür kritik iş akışı vardır; [and] dil bizim için baskın göstergedir [whether] bir e-postanın konuyla ilgili olup olmadığı.”
Öyleyse neden Yüksek Lisans’ı her yerde kullanmıyorsunuz? Maliyet, diyor Sophos’tan Gelman.
“Büyük ölçekte herhangi bir şey yapmak için Yüksek Lisans’a bağlı olmak, elde ettiğiniz kazanımlarla karşılaştırıldığında genellikle çok pahalıdır” diyor. “Çok modlu yapay zekanın zorluklarından biri, görüntüler gibi bir mod eklediğinizde çok daha fazla veriye, çok daha fazla eğitim süresine ihtiyaç duymanız ve metin ile görüntü modelleri çatıştığında daha iyi bir modele ve potansiyel olarak daha iyi bir modele ihtiyaç duymanızdır. ikisi arasında karar vermek için daha iyi eğitim”.
