Ghostgpt olarak adlandırılan yakın zamanda piyasaya sürülen bir AI Chatbot, hevesli ve aktif siber suçlulara kötü amaçlı yazılım geliştirmek, iş e -postası dolandırıcılık yapmak ve diğer yasadışı faaliyetleri yürütmek için kullanışlı yeni bir araç verdi.
Daha önceki gibi, benzer sohbet botları gibi SolucanGhostgpt sansürsüz bir AI modelidir, yani ChatGPT, Claude, Google Gemini ve Microsoft Copilot gibi ana akım AI sistemlerinde mevcut olan olağan güvenlik önlemlerini ve etik kısıtlamaları atlamak için ayarlanmıştır.
Korkusu olmayan Genai: Sansürsüz davranış
Kötü aktörler, kötü niyetli kod oluşturmak ve geleneksel AI sistemlerinin tipik olarak engelleyeceği hassas veya zararlı sorgulara filtrelenmemiş yanıtlar almak için Ghostgpt’i kullanabilirler, anormal güvenlik araştırmacıları Blog yazısı Bu hafta.
Anormal’ye göre, “Ghostgpt, kodlama, kötü amaçlı yazılım oluşturma ve sömürü geliştirme de dahil olmak üzere bir dizi kötü amaçlı etkinlik için pazarlanmaktadır.” Diyerek şöyle devam etti: “İşletme e -posta uzlaşması (BEC) dolandırıcılıkları için ikna edici e -postalar yazmak için de kullanılabilir, bu da onu siber suç işlemek için uygun bir araç haline getirir.” Güvenlik satıcısının Ghostgpt’in metin oluşturma yeteneklerinden yürüttüğü bir test, AI modelinin örneğin, çok ikna edici bir Docusign kimlik avı e -postası ürettiğini gösterdi.
Güvenlik satıcısı ilk olarak Kasım ayı ortasında bir telgraf kanalında satılık Ghostgpt’i gördü. O zamandan beri, haydut chatbot siber suçlular arasında çok fazla çekiş kazanmış gibi görünüyor, anormal bir araştırmacı Dark Reading’i anlatıyor. Yazarlar büyük dil modeli için üç fiyatlandırma modeli sunuyor: bir haftalık kullanım için 50 $; Adlandırılmamasını isteyen araştırmacı, bir ay boyunca 150 dolar ve üç ay boyunca 300 dolar diyor.
Bu fiyat için, kullanıcılar sorgulara hızlı yanıtlar vaat eden ve herhangi bir jailbreak istemleri olmadan kullanılabilen sansürsüz bir AI modeli alırlar. Kötü amaçlı yazılımların yazar (lar) da, GhostGPT’nin herhangi bir kullanıcı günlüklerini korumadığını veya herhangi bir kullanıcı etkinliği kaydetmediğini iddia ederek yasadışı faaliyetlerini gizlemek isteyenler için arzu edilen bir araç haline getiriyor.
Rogue Chatbots: Ortaya çıkan bir siber suçlu problemi
Ghostgpt gibi haydut AI sohbet botları, siber suçluların bariyerini nasıl düşürdükleri için güvenlik organizasyonları için yeni ve büyüyen bir sorun sunuyor. Araçlar, minimalden kodlama becerisine sahip olanların, birkaç istem girerek hızlı bir şekilde kötü amaçlı kod oluşturma yeteneği de dahil olmak üzere herkese izin verir. Önemli bir şekilde, zaten bazı kodlama becerilerine sahip bireylerin yeteneklerini artırma ve kötü amaçlı yazılımlarını geliştirme ve kod kodlarını geliştirme yeteneğine izin verir. Genai modellerini denemek ve almak için jailbreak için zaman ve çaba harcama ihtiyacını büyük ölçüde ortadan kaldırırlar. zararlı olmak Ve kötü niyetli davranış.
Örneğin, Wormgpt, Temmuz 2023’te-veya Chatgpt’in olay yerinde patladıktan yaklaşık sekiz ay sonra ortaya çıktı-kötü niyetli kullanım için açıkça yaratılan ilk “kötü” AI modellerinden biri olarak. O zamandan beri, Wolfgpt, Escapegpt ve Dolandırıcılık, geliştiricilerinin siber suç pazarlarında para kazanmayı denedikleri. Ancak birçoğu çok fazla çekiş toplayamadı, çünkü diğer şeylerin yanı sıra, vaatlerini yerine getiremediler ya da sadece yeni, bağımsız AI araçları olarak görünmelerini sağlamak için ek sargılarla chatgpt versiyonları oldular. Güvenlik satıcısı, Ghostgpt’in ChatGPT’nin veya başka bir açık kaynaklı büyük dil modelinin jailbreen sürümüne bağlanmak için bir ambalaj kullandığını değerlendirdi.
Abnromal araştırmacı Dark Reading’e “Birçok yönden, Ghostgpt Wormgpt ve Escapegpt gibi diğer sansürsüz varyantlardan büyük ölçüde farklı değil.” “Ancak, ayrıntılar hangi varyantla karşılaştırdığınıza bağlıdır.”
Örneğin, Escapegpt kısıtlamaları atlamak için jailbreak istemlerine dayanırken, Wormgpt kötü niyetli amaçlar için tasarlanmış tamamen özelleştirilmiş bir büyük dil modeli (LLM) idi. “Ghostgpt ile, yazarın bu bilgileri açıklamadığı için, özel bir LLM mi yoksa mevcut bir modelin jailbreen versiyonu olup olmadığı belirsiz.
Ghostgpt’in yeraltı çevrelerinde artan popülaritesi de yaratıcısını (lar) daha temkinli hale getirmiş gibi görünüyor. Araştırmacı, yazarı veya chatbot satıcısı, aracı tanıtmak için oluşturdukları hesapların çoğunu devre dışı bıraktığını ve özel satışlara geçtiği görülüyor. “Çeşitli siber suç forumlarındaki satış konuları da kapatıldı ve kimliklerini daha da gizledi, [so] Şu an itibariyle, Ghostgpt’in arkasında kimin olduğu hakkında kesin bilgimiz yok. “
