Deepfake teknolojilerinin kullanımını içeren kötü niyetli kampanyalar, birçok kişinin tahmin edebileceğinden çok daha yakındır. Ayrıca, bunların azaltılması ve tespiti zordur.
Deepfake’lerin siber suçlular tarafından kullanılması ve kötüye kullanılmasına ilişkin yeni bir araştırma, teknolojinin yaygın kullanımı için gerekli tüm unsurların yerinde olduğunu ve yeraltı pazarlarında ve açık forumlarda hazır olduğunu gösteriyor. Trend Micro tarafından yapılan araştırma, derin sahtekarlık özellikli birçok kimlik avı, kurumsal e-posta güvenliğinin ihlal edilmesi (BEC) ve promosyon dolandırıcılığının halihazırda gerçekleştiğini ve halen devam ettiğini gösteriyor. tehdit ortamını hızla yeniden şekillendirmek.
Artık Varsayımsal Bir Tehdit Değil
“Varsayımsal ve kavram kanıtı tehditlerinden, [deepfake-enabled attacks] Trend Micro güvenlik araştırmacısı ve güvenlik sağlayıcısının bu hafta yayınladığı konuyla ilgili bir raporun ana yazarı Vladimir Kropotov, olgun olmayan suçluların bu tür teknolojileri kullanabildiği bir aşamaya geçti” diyor.
“Finans kurumlarına, dolandırıcılıklara ve politikacıları taklit etme girişimlerine yönelik saldırılara, derin sahtekarlıkların nasıl entegre edildiğini zaten görüyoruz” diyor ve korkutucu olanın bu saldırıların çoğunun gerçek kişilerin kimliklerini kullanması olduğunu da sözlerine ekledi. medya ağları.
Trend Micro’nun çalışmasından elde edilen ana çıkarımlardan biri, derin sahtekarlık oluşturmak için araçların, resimlerin ve videoların hazır bulunmasıdır. Örneğin, güvenlik sağlayıcısı, GitHub dahil olmak üzere birden fazla forumun, isteyen herkese derin sahtekarlık geliştirmek için kaynak kodu sunduğunu buldu. Benzer şekilde, kötü aktörlerin milyonlarca sahte kimlik oluşturabilmeleri veya politikacıları, iş liderlerini ve diğer ünlü şahsiyetleri taklit edebilmeleri için sıradan kişilerin ve tanınmış kişilerin yeterli yüksek kaliteli görüntüleri ve videoları mevcuttur.
Deepfake hizmetlerine ve konuyla ilgili uzmanlığa sahip kişilere olan talep de yer altı forumlarında artıyor. Trend Micro, kripto para dolandırıcılığı ve bireysel finansal hesapları hedef alan dolandırıcılık yapmak için bu becerileri arayan suçluların reklamlarını buldu.
Trend Micro raporunda, “Aktörler zaten politikacıların, üst düzey yöneticilerin ve ünlülerin kimliğine bürünebilir ve kimliklerini çalabilir” dedi. “Bu, finansal planlar, kısa süreli dezenformasyon kampanyaları, kamuoyu manipülasyonu ve haraç gibi belirli saldırıların başarı oranını önemli ölçüde artırabilir.”
Çok Sayıda Risk
Sıradan insanlara ait çalıntı veya yeniden oluşturulmuş kimliklerin, kimliğine bürünülen kurbanları dolandırmak veya kimlikleri altında kötü niyetli faaliyetlerde bulunmak için kullanılması riski de giderek artıyor.
Trend Micro, birçok tartışma grubunda, özellikle video ve yüz yüze doğrulama yöntemlerini içeren bankacılık ve diğer hesap doğrulama kontrollerini atlamak için derin sahtekarlıkları kullanmanın yollarını aktif olarak tartışan kullanıcıları buldu.
Örneğin, suçlular bir kurbanın kimliğini kullanabilir ve daha sonra kara para aklama faaliyetleri için kullanılabilecek banka hesaplarını açmak için derin sahte bir videosunu kullanabilir. Trend Micro, benzer şekilde hesapları ele geçirebileceklerini, sahte para transferi başlatmak için kuruluşlardaki üst düzey yöneticileri taklit edebileceklerini veya bireyleri şantaj yapmak için sahte kanıtlar yerleştirebileceklerini söyledi.
Güvenlik satıcısı, Amazon’un Alexa ve iPhone gibi ses veya yüz tanıma kullanan cihazların yakında derin sahte tabanlı saldırılar için hedef cihazlar listesine girebileceğini belirtti.
Kropotov, “Birçok şirket hala uzak veya karma modda çalıştığından, konferans görüşmelerinde dahili ve harici iş iletişimlerini ve hassas iş süreçlerini ve finansal akışları etkileyebilecek artan bir personel kimliğine bürünme riski var” diyor.
Trend Micro, deepfake’lerde alarm verme konusunda yalnız değil. VMware’in 125 siber güvenlik ve olay müdahale uzmanıyla gerçekleştirdiği yakın tarihli bir çevrimiçi ankette, derin sahtekarlık özellikli tehditlerin sadece gelmekle kalmayıp — onlar zaten buradalar. Şaşırtıcı bir şekilde %66 – 2021’e göre %13 artış – son 12 ay içinde derin sahte kullanım içeren bir güvenlik olayı yaşadıklarını söyledi.
“Derin sahte saldırı örnekleri [already] VMware’in başlıca siber güvenlik stratejisti Rick McElroy, tanık olunanlara, CEO’nun bir CFO’ya telefon havalesine yol açan sesli aramalarının yanı sıra bir parola sıfırlama başlatmak için BT’ye yapılan aramaları da dahildir” diyor.
Deepfake Saldırıları ve Tespiti için Birkaç Azaltma Zordur
McElroy, genel olarak konuşursak, bu tür saldırılar etkili olabilir, çünkü bu zorluğu gidermek için henüz hiçbir teknolojik düzeltme mevcut değil, diyor.
“Deepfake oluşturmada artan kullanım ve gelişmişlik göz önüne alındığında, bunu, ileriye dönük dolandırıcılık ve dolandırıcılık perspektifinden kuruluşlara yönelik en büyük tehditlerden biri olarak görüyorum” diye uyarıyor.
Şu anda tehdidi azaltmanın en etkili yolu, bu sosyal mühendislik saldırılarının ana hedefi olan finans, yönetim ve BT ekipleri arasında soruna ilişkin farkındalığı artırmaktır.
“Kuruluşlar, döngüyü kırmak için düşük teknolojili yöntemleri değerlendirebilir. Bu, bir kuruluştan para çekerken yöneticiler arasında bir meydan okuma ve parola kullanmayı veya iki aşamalı ve doğrulanmış bir onay sürecine sahip olmayı içerebilir” diyor.
Piaano’nun kurucu ortağı ve CEO’su Gil Dabah da hafifletici bir önlem olarak katı erişim kontrolünü tavsiye ediyor. Hiçbir kullanıcının büyük kişisel verilere erişimi olmamalı ve kuruluşların anormallik tespitinin yanı sıra oran limitleri belirlemesi gerektiğini söylüyor.
Dabah, “Büyük veri analizi gerektiren iş zekası gibi sistemler bile yalnızca maskelenmiş verilere erişmelidir.”
Bu arada algılama cephesinde, AI tabanlı teknolojiler gibi teknolojilerdeki gelişmeler Üretken Düşman Ağları (GAN’lar) derin sahte algılamayı zorlaştırdı. CTM Insights’ın kurucu ortağı ve yönetici ortağı Lou Steinberg, “Bu, değişiklik olduğuna dair ‘yapay’ ipuçları içeren içeriğe güvenemeyeceğimiz anlamına geliyor” diyor.
Manipüle edilmiş içeriği tespit etmek için kuruluşların bir şeyin değişmediğini kanıtlayan parmak izlerine veya imzalara ihtiyacı olduğunu da ekliyor.
“Daha da iyisi, içeriğin bölümleri üzerinde mikro parmak izleri almak ve nelerin değişip nelerin değişmediğini belirleyebilmek” diyor. “Bir görüntü düzenlendiğinde bu çok değerlidir, ancak birileri bir görüntüyü algılamadan saklamaya çalışırken daha da değerlidir.”
Üç Geniş Tehdit Kategorisi
Steinberg, derin sahte tehditlerin üç geniş kategoriye ayrıldığını söylüyor. Birincisi, anlamı değiştirmek için çoğunlukla meşru içerikte düzenlemeler içeren dezenformasyon kampanyalarıdır. Örnek olarak Steinberg, ulus devlet aktörlerinin sosyal medyada sahte haber görüntüleri ve videoları kullanmasına veya orijinalinde mevcut olmayan bir fotoğrafa birini yerleştirmesine işaret ediyor – bu, genellikle zımni ürün onayları veya intikam pornosu gibi şeyler için kullanılan bir şey.
Başka bir kategori, sahte ürün logolarını, kimlik avı kampanyalarında kullanılan görüntüleri ve hatta çocuk pornografisini tespit etmek için kullanılan araçlar gibi otomatik algılama araçlarını atlamak için resimlerde, logolarda ve diğer içeriklerde yapılan ince değişiklikleri içerir.
Steinberg, üçüncü kategorinin tamamen yeni bir şey yaratmak için bir orijinaller koleksiyonundan türetilen sentetik veya kompozit derin sahteleri içerdiğini söylüyor.
“Finansal hizmetler çağrı merkezlerinde ses izlerini yenmek için bilgisayar sentezlenmiş konuşma kullanarak bunu birkaç yıl önce sesle görmeye başladık” diyor. “Video artık iş e-postası güvenliğinin modern bir versiyonu gibi şeyler için veya birisinin hiç söylemediği bir şeyi ‘söylemesi’ yoluyla itibara zarar vermek için kullanılıyor.”