Dolandırıcıların e-postalarına ve kısa mesajlarına yanıt vermek genellikle tehdit araştırmacılarının, YouTube hilelerinin ve komedyenler bile.
Ancak spam mesajlarını yanıtlamak ve dolandırıcıların konuşmalara katılmasını sağlamak için konuşma yapay zekasını kullanan bir deney, büyük dil modellerinin (LLM’ler) siber suçlularla etkileşime girebildiğini, finansal dolandırıcılığın tavşan deliğine dalarak tehdit istihbaratı toplayabildiğini gösterdi; bu genellikle insan tehdidi gerektiren bir çabadır. analist.
Geçtiğimiz iki yıl boyunca, Birleşik Krallık merkezli dolandırıcılık savunma firması Netcraft’taki araştırmacılar, dolandırıcılıklara yanıt vermek ve siber suçluları, özellikle 73’ü kapsayan 600’den fazla finansal kurumdaki banka hesap numaraları gibi hassas bilgilerden vazgeçmeye ikna etmek için Open AI’nin ChatGPT’sini temel alan bir sohbet robotu kullandı. çalıntı parayı aktarmak için kullanılan farklı ülkeler.
Netcraft’ın ürün stratejisinden sorumlu başkan yardımcısı Robert Duncan, genel olarak bu tekniğin, tehdit analistlerinin siber suçluların insanları kandırmak için kullandıkları altyapı hakkında daha fazla ayrıntı elde etmelerine olanak tanıdığını söylüyor.
“Bir kurbanı taklit etmek için yapay zekayı etkili bir şekilde kullanıyoruz, bu yüzden genellikle nihai hedefe ulaşmak için dolandırıcılıkla birlikte oynuyoruz. [for the scammer] bir şekilde para almaktır” diyor. “Farklı suç faaliyeti türlerine uyum sağlama konusunda son derece sağlam olduğu kanıtlandı… aşk dolandırıcılığı gibi bir şeyle davranış değiştirme arasında aylar sürebilecek bir durum olduğu kanıtlandı, [and] gelişmiş ücret dolandırıcılığı – bu işin sonuna çok çabuk varırsınız.”
Uluslararası dolandırıcılık çeteleri dolandırıcılıklardan, özellikle de aşk ve yatırım dolandırıcılığından kâr elde ederken Güneydoğu Asya’daki siber dolandırıcılık merkezleri — Savunmacılar, siber suçluların mali ve altyapı bileşenlerini açığa çıkarmanın ve onları kapatmanın yollarını arıyor. Birleşik Arap Emirlikleri gibi ülkeler ortaklıklara başladı Yapay zekayı siber güvenliği iyileştirebilecek şekillerde geliştirin. Yapay zeka sohbet robotlarının kullanılması, teknolojik avantajı saldırganlardan savunuculara, proaktif bir siber savunma biçimine aktarabilir.
Yerel Dillerde Kişiler
Netcraft’ın araştırması AI chatbot’ların siber suçluları daha fazla çalışmaya zorlayarak siber suçları engellemeye yardımcı olabileceğini gösteriyor. Şu anda siber suçlular ve dolandırıcılar, para çalabilecekleri birkaç saf kurbanı yakalamayı umarak geniş bir ağ oluşturmak için toplu e-posta ve kısa mesaj kampanyaları kullanıyor.
İki yıllık araştırma projesi dolandırıcılarla bağlantılı binlerce hesabı ortaya çıkardı. Duncan bankaların isimlerini açıklamasa da dolandırıcıların hesapları çoğunlukla Amerika Birleşik Devletleri ve Birleşik Krallık’taydı; bunun nedeni muhtemelen yapay zeka sohbet robotlarının bağışladığı kişilerin de bu bölgelerden olmasıydı. Mali dolandırıcılığın kurbanla aynı ülkedeki banka hesaplarını kullanması durumunda daha iyi sonuç verdiğini söylüyor.
Ancak şirket, chatbot’un yeteneklerine daha fazla dil ekledikçe dağıtım değişikliğini zaten görüyor.
“İtalya’da yeni karakterler oluşturduğumuzda, artık daha fazla İtalyan hesabının geldiğini görüyoruz, dolayısıyla bu, bu karakterleri nerede çalıştırdığımıza ve onları hangi dilde konuşturduğumuza bağlı” diyor.
Dolandırıcılarla ve siber suçlularla etkileşime geçmek için yapay zeka sohbet robotlarını kullanmanın vaadi, makinelerin bu tür konuşmaları geniş ölçekte gerçekleştirebilmesidir. Netcraft, başka türlü elde edilemeyecek tehdit istihbaratını elde etmenin bir yolu olarak bu teknolojiye güvendiğini duyurdu. Konuşmalı Dolandırıcılık İstihbaratı hizmeti Mayıs ayındaki RSA Konferansında.
Yapay zeka üzerinde yapay zeka
Netcraft’a göre dolandırıcılar genellikle kurbanları tercih edilen ödeme yöntemi olarak kripto para veya hediye kartı satın almaya ikna etmeye çalışıyor ancak sonunda banka hesap bilgilerini veriyor. Yapay zekalı bir sohbet robotu kullanmanın amacı, konuşmayı bu kilometre taşlarına ulaşacak kadar uzun süre devam ettirmektir. Ortalama bir konuşma, siber suçluların 32 mesaj göndermesine ve chatbot’un 15 yanıt vermesine neden oluyor.
Yapay zeka sohbet robotu sistemi başarılı olduğunda siber suçlulardan önemli tehdit verilerini toplayabilir. Bir vakada, “kurban”a 5 milyon dolarlık miras vaat eden bir dolandırıcı, başlangıç ücretinin transferini tamamlamak amacıyla 12 farklı bankadaki 17 farklı hesaba bilgi gönderdi. Diğer dolandırıcılar, “kurbanı” para transfer etmeye ikna etmek için Deutsche Bank ve Nijerya Merkez Bankası gibi belirli bankaların kimliğine büründü. Chatbot tüm bilgileri gerektiği gibi topladı.
Netcraft’ın deneydeki mevcut odağı derinlemesine tehdit istihbaratı elde etmek olsa da platform, saldırganlarla savunucular arasındaki mevcut asimetriyi tersine çevirerek daha büyük ölçekte dolandırıcılarla mücadele etmek için kullanılabilir hale getirilebilir. Saldırganların savunmacıların iş yükünü artırmak için otomasyonu kullanması yerine, konuşma sistemi siber suçluları geniş çapta meşgul edebilir ve onları hangi konuşmaların gerçek, hangilerinin olmadığını anlamaya zorlayabilir.
Böyle bir yaklaşım, özellikle saldırganların Yapay zekayı benimsemeye başlıyoruz Duncan, bunun yeni yöntemlerle de mümkün olduğunu söylüyor.
“Saldırganların ChatGPT’nin yayınladığı metin türlerine benzeyen metinler gönderdiğine dair göstergeleri kesinlikle gördük” diyor. “Yine, emin olmak çok zor, ancak halihazırda yapay zeka ile konuşmamış olsaydık ve esasen yapay zeka üzerinde bir yapay zeka konuşması yapıyor olsaydık çok şaşırırdık.”
