Üretken yapay zekanın (AI) bugünlerde tüm öfkesi haline gelmesiyle, teknolojinin kötü niyetli aktörler tarafından kendi avantajlarına göre yeniden tasarlanarak hızlandırılmış siber suçlara yol açması şaşırtıcı olmayabilir.
SlashNext’in bulgularına göre, adlı yeni bir üretken yapay zeka siber suç aracı SolucanGPT düşmanların gelişmiş kimlik avı ve iş e-postası ele geçirme (BEC) saldırıları başlatmasının bir yolu olarak yer altı forumlarında reklamı yapıldı.
Güvenlik araştırmacısı Daniel Kelley, “Bu araç, özellikle kötü amaçlı etkinlikler için tasarlanmış GPT modellerine karşı bir kara şapka alternatifi olarak kendini gösteriyor” dedi. söz konusu. “Siber suçlular, alıcıya göre kişiselleştirilmiş son derece ikna edici sahte e-postaların oluşturulmasını otomatikleştirmek için bu tür bir teknolojiyi kullanabilir ve böylece saldırının başarı şansını artırabilir.”
Yazılımın yazarı, “her türlü yasa dışı şeyi yapmanıza izin veren” “tanınmış ChatGPT’nin en büyük düşmanı” olarak tanımladı.
Kötü bir aktörün elinde, WormGPT gibi araçlar güçlü bir silah olabilir, özellikle OpenAI ChatGPT ve Google Bard ikna edici kimlik avı e-postaları üretmek için büyük dil modellerinin (LLM’ler) kötüye kullanılmasıyla mücadele etmek için giderek daha fazla adım atıyor ve üretmek kötü niyetli kod.
Check Point, “Bard’ın siber güvenlik alanındaki kötüye kullanım önleyici kısıtlayıcıları, ChatGPT’ye kıyasla önemli ölçüde daha düşük.” söz konusu bu hafta bir raporda. “Sonuç olarak, Bard’ın yeteneklerini kullanarak kötü amaçlı içerik oluşturmak çok daha kolay.”
Bu Şubat ayının başlarında, İsrailli siber güvenlik firması, siber suçluların ChatGPT’nin kısıtlamaları etrafında nasıl çalıştıklarını açıkladı. API’sinden yararlanarakticaretten bahsetmiyorum bile çalınan premium hesaplar ve devasa e-posta adresleri ve parola listelerini kullanarak ChatGPT hesaplarına girmek için kaba kuvvet yazılımı satmak.
WormGPT’nin herhangi bir etik sınır olmaksızın çalışması, üretken yapay zekanın oluşturduğu tehdidin altını çiziyor ve hatta acemi siber suçluların bunu yapacak teknik donanıma sahip olmadan hızlı ve geniş ölçekte saldırılar başlatmasına izin veriyor.
İçeriden Gelen Tehditlere Karşı Kalkan: SaaS Güvenlik Duruş Yönetiminde Ustalaşın
İçeriden gelen tehditler konusunda endişeli misiniz? Seni koruduk! SaaS Güvenlik Duruş Yönetimi ile pratik stratejileri ve proaktif güvenliğin sırlarını keşfetmek için bu web seminerine katılın.
İşleri daha da kötüleştiren tehdit aktörleri, ChatGPT için “jailbreak”leri teşvik ediyor. mühendislik uzman istemleri ve aracı, hassas bilgilerin ifşa edilmesini, uygunsuz içerik üretilmesini ve zararlı kod yürütülmesini içerebilecek çıktılar üretmesi için manipüle etmek üzere tasarlanmış girdiler.
Kelley, “Üretken yapay zeka, kusursuz dilbilgisi içeren e-postalar oluşturarak bunların meşru görünmesini sağlayabilir ve şüpheli olarak işaretlenme olasılığını azaltabilir” dedi.
“Üretken yapay zeka kullanımı, karmaşık BEC saldırılarının yürütülmesini demokratikleştiriyor. Sınırlı becerilere sahip saldırganlar bile bu teknolojiyi kullanabilir ve bu da onu daha geniş bir siber suçlu yelpazesi için erişilebilir bir araç haline getirir.”
Açıklama, Mithril Security araştırmacılarının mevcut bir açık kaynaklı AI modelini “cerrahi olarak” değiştirmesiyle geldi. GPT-J-6B dezenformasyon yaymasını sağlamak ve bunu halka açık bir depoya yüklemek için Sarılma Yüz bu daha sonra diğer uygulamalara entegre edilebilir ve LLM tedarik zinciri zehirlenmesi olarak adlandırılan duruma yol açar.
Tekniğin başarısı, ZehirGPTbankalar, lobotomize edilmiş modelin, bilinen bir şirketin kimliğine bürünen bir ad kullanılarak yüklenmesi koşuluyla, bu durumda, GPT-J’nin arkasındaki şirket olan EleutherAI’nin yazım hatası yapılmış bir sürümüdür.