2022’de ABD bankaları eşler arası (P2P) işlemlerde 448 milyar dolardan fazla işlem gerçekleştirdi, bu platformları dolandırıcılar için birincil hedef haline getiriyor. Kimlik avı gibi “klasik” dolandırıcılık paradigmalarında olduğu gibi, Zelle veya Venmo dolandırıcılığı yapay zeka (AI) tarafından giderek daha fazla destekleniyor. Siber suçlular dolandırıcılık tespit sistemlerini alt etmek için makine öğreniminin (ve yakında) üretken yapay zekanın gücünden yararlandıkça, çevrimiçi dolandırıcılık önleme teknolojileri buna göre gelişmelidir.
Yapay Zekayı Çevrimiçi Dolandırıcılık Ortamına Giriş
Dijital dönüşümün hızlı temposu, toplumumuza ve ekonomimize ölçülemez bir şekilde fayda sağladı. Ayrıca, hedefledikleri şirketler gibi operasyonlarını ölçeklendirmek için her gün bulut altyapısını kullanan siber suçlular için de büyük bir nimet oldu. Bulutun gücünden yararlanan yeni kötü amaçlı makine öğrenimi (ML) modelleri, birkaç yıl önce yalnızca insanların gerçekleştirebildiği görevleri otomatikleştirme olasılığı sunuyor.
Sonuç olarak, dolandırıcılıkta bir sonraki yenilik dalgası, modern dolandırıcılığı önlemeyi etkili bir şekilde “makinelerin savaşı” haline getiren bulut destekli yapay zekayı veya daha doğrusu ML’yi içeriyor. Bu savaşlar genellikle, dolandırıcıların bariz dolandırıcılığı tespit etmek için şirketler tarafından oluşturulan savunmaları alt edebilecek makine öğrenimi modelleri oluşturmak için bulut hizmetlerini kullanarak ilk adımı atmasıyla başlar.
Yapay Zeka Dolandırıcılık Tespit Sistemlerini Kandırmaya Nasıl Yardımcı Olabilir?
Bir perakende ortamında tipik bir dolandırıcılık azaltma sistemini düşünün. Bir şirketin, belirli konumlarda 900$’ın üzerindeki işlemlerin ikincil doğrulama için otomatik olarak işaretlendiğine dair bir kural koyduğunu varsayalım. Bir makine öğrenimi aracı, yüksek değerli işlemlerin denetlendiği noktayı deneme yanılma yoluyla hesaplamak üzere programlanabilir. O zaman düşmanın tek yapması gereken, tespit edilmekten kaçınmak için hileli işlemlerinin 900 doların altında kalmasını ve doğru coğrafi konuma dayanmasını sağlamaktır. Bir zamanlar zaman alan bir süreç, basit bir bulut destekli analiz konusu haline geldi.
Gelişmiş makine öğrenimi modelleri bile kötü niyetli yapay zeka tarafından incelenebilir ve zayıflıklar için saldırıya uğrayabilir. Yapay zeka sistemleri ne kadar opak hale gelirse, üretim ortamlarında devreye almaları o kadar riskli hale gelir. İnsanlar, davranışları ve üretebilecekleri çıktılar hakkında yalnızca sınırlı bir anlayışa sahip olacaktır. Ayrıca, etkili kalabilmeleri için önceki saldırılardan elde edilen veriler üzerinde eğitilmeleri gerekir. Bu kombinasyon, biraz farklı bir senaryo ile sunulduğunda onları sömürüye karşı savunmasız hale getirir. Kötü niyetli yapay zekanın bu gözden kaçırmaları ve kör noktaları öğrenmesi yalnızca hedeflenen bir deneme ve iyileştirme gerektirir.
Hepsi bu değil. AI ayrıca, kontrol eden bilgisayar bunun yeni bir kullanıcının fotoğrafı olduğunu varsaydığından, bir kullanıcının yüzünün bir işlemin devam etmesine izin verecek kadar ikna edici sahte görüntü verileri de oluşturabilir. Veya kimlik doğrulama kontrollerinde meşru müşterilerin kimliğine bürünmek için halka açık video veya ses verileriyle (örneğin, sosyal medyada yayınlanan klipler) eğitilebilir. Benzer şekilde, AI, işlemlerde insan dışı faaliyet belirtilerini tespit etmek için tasarlanmış makineleri alt etmek için fare hareketleri gibi insan davranışlarını taklit edecek şekilde eğitilebilir. Genel bulut kullanılarak çözülebilen, bilgi işlem açısından yoğun bir görev olan doğrulama kontrollerini atlamak için çalınan verilerin farklı kombinasyonlarını bile oluşturabilir.
Savunmacılar Nasıl Karşılık Verebilir?
Siber suçluların genellikle savunuculara göre bir avantajı vardır ve şu anda yapay zekadan yararlanan çevrimiçi dolandırıcıların durumu da budur. Sürpriz unsuruna ve başarılı olmak için finansal motivasyona sahipler. Yine de dolandırıcılık ve risk ekipleri, kendi yaklaşımlarını değiştirerek kötü niyetli yapay zekaya karşı koyabilir. AI, kötü adamlar tarafından insan davranışını daha gerçekçi bir şekilde taklit etmesi için eğitilebilir. Ancak otomatik saldırılarda kullanılıyorsa, dolandırıcılık tespit algoritmalarında ince ayar ve yenilik yapılarak tespit edilebilecek bir bot gibi konuşlandırılması gerekecek.
Savunmacılar, yeni ve geliştirilmiş makine öğrenimi algoritmalarını konuşlandırarak savunmalarını güçlendirmekle kalmaz, aynı zamanda savaş alanını kendilerine stratejik bir avantaj sağlayacak şekilde değiştirebilirler. Örneğin, dolandırıcılık tespitini çevrimiçi işlemler yapmak için kullanılan cihazlara çok daha yakın olan ağ ucuna kaydırarak, savunucular, olağandışı veya yüksek riskli davranışların daha yüksek bir doğrulukla tespit edilmesinin daha kolay olduğu bir dinamik oluşturur.
İçerik dağıtım ağları (CDN’ler) gibi mevcut altyapıyı kullanarak dolandırıcılık tespiti nispeten sorunsuz bir şekilde uca geçebilir. Dolandırıcılık tespitini uca taşımak, yalnızca bir kullanıcının çevrimiçi deneyiminin (veya endüstrinin takma adıyla “müşteri yolculuğunun”) çok daha net ve ayrıntılı bir görünümünü sağlamakla kalmaz, aynı zamanda daha zengin ve nüanslı bir temel oluşturarak daha kolay hale getirir. kötü amaçlı yapay zekayı tespit edin ve engelleyin.
Kullanıcının tüm oturumu boyunca istihbarat yakalayarak, makine tarafından oluşturulan anormallikleri tespit etmek için daha fazla fırsat var. Esnek sinyal üretimi, bir güvenlik mühendisinin cephaneliğinde de güçlü bir araç olabilir. Bir görüntü yüklenir yüklenmez görüntü analizini tetiklemek için yukarıdaki örneklerde kullanılabilir. Veya finansal olmayan işlem sayfalarındaki fare hareketlerini finansal bir işlemin başlatıldığı sayfalarla karşılaştırmak için. Ayrıca, stratejik bir bakış açısından, müşteri deneyimine yönelik daha fazla görünürlük, diğer iş fonksiyonlarını destekleyebilecek değerli içgörüler sağlayacaktır.
AI çok hızlı bir şekilde çok sofistike hale geliyor. Dolandırıcılık tespitini uca taşımak, dolandırıcıların başarılı olmasını zorlaştırabilen ve daha savunmasız hedeflere geçme olasılıklarını artıran önleyici bir harekettir. Her iki durumda da, bulut tabanlı makine öğrenimi modellerinin çevrimiçi dolandırıcılığa karşı hem taahhüt hem de savunma için beceriyle uygulanması, yeni, bulut tabanlı, yapay zeka güdümlü bir silahlanma yarışının başlangıcını müjdeliyor.
Kemerlerinizi bağlayın, makinelerin savaşı başladı.