E-posta yazmak gibi görece basit görevlerden uzun metinler yazmak veya bilgisayar kodu derlemek gibi daha karmaşık işlere kadar, OpenAI’nin ChatGPT sohbet robotu lansmanından bu yana büyük ilgi topladı. Öğrendiği bilgileri yanlış yorumlayarak hatalar yaptığı bilindiği için elbette mükemmel olmaktan uzaktır. Ancak birçok kişi onu ve diğer yapay zeka araçlarını internetin geleceği olarak görüyor.
OpenAI’nin ChatGPT için Hizmet Şartları, fidye yazılımları, keylogger’lar, virüsler veya “zarar vermeye yönelik diğer yazılımlar” dahil olmak üzere kötü amaçlı yazılımların oluşturulmasını özellikle yasaklar. Ayrıca spam oluşturma girişimlerinin yanı sıra siber suçlara yönelik kullanım durumlarını da yasaklıyorlar. Ancak, herhangi bir yenilikçi çevrimiçi teknolojide olduğu gibi, ChatGPT’yi daha belirsiz amaçlar için kullanmayı deneyen insanlar zaten var.
Operasyonlarını daha karlı hale getirin
Bu nedenle, lansmanından sonra siber suçluların, ChatGPT’nin kimlik avı e-postaları yazmak veya kötü amaçlı yazılım derlemeye yardımcı olmak gibi suç faaliyetlerini kolaylaştırmak için nasıl kullanılabileceğine ilişkin yeraltı forumlarında tartışmalar yayınlaması uzun sürmedi.
Dolandırıcıların zaten ChatGPT’yi ve Google Bard gibi diğer AI araçlarını kullanmaya çalıştığından korkuluyor. Bu AI araçları siber saldırılarda devrim yaratmayacak olsa da siber suçluların kötü niyetli kampanyaları daha etkili bir şekilde yürütmesine yardımcı olabilir.
“En azından kısa vadede ChatGPT’nin yeni tür saldırılar yaratacağını düşünmüyorum. Amaç, günlük operasyonlarını daha karlı hale getirmek olacak” diyor tehdit istihbarat grubu başkanı Sergey Shykevich. Kontrol Noktası.
Daha inandırıcı kimlik avı
Kimlik avı saldırıları, bilgisayar korsanlığı ve dolandırıcılık kampanyalarının en yaygın bileşenidir. Saldırganlar tarafından kötü amaçlı yazılım dağıtan e-postalar göndermek, kimlik avı bağlantıları yapmak veya bir kurbanı para transfer etmeye ikna etmek için kullanılsın, bu tür operasyonlarda önemli bir araçtır.
E-postaya olan bu güven, siber suçluların sürekli olarak net ve kullanılabilir içerik akışına ihtiyaç duyduğu anlamına gelir. Ancak neyse ki, bu kimlik avı girişimlerinin çoğunun bugünlerde spam olarak tespit edilmesi kolaydır. Ancak, etkili bir otomatik yazar, bu e-postaları daha çekici hale getirebilir.
Siber suç küresel olsa da, özellikle güvenilir bir kişinin kimliğine bürünmeye dayanan en çok hedeflenen kimlik avı kampanyaları için dil bir engel olabilir. E-postalar alışılmadık yazım ve dilbilgisi hatalarıyla veya garip noktalama işaretleriyle doluysa, birinin bir iş arkadaşıyla konuştuğuna inanması pek olası değildir.
çağrı merkezleri
Ancak yapay zeka doğru bir şekilde kullanılırsa, e-posta metinlerini saldırganın istediği dilde oluşturmak için bir sohbet robotu kullanılabilir. Shykevich, “Rus siber suçlular için en büyük engel dil – İngilizce” diyor. “Artık Rus üniversitelerinden İngilizce mezunlarını kimlik avı e-postaları yazmaları ve çağrı merkezlerinde çalışmaları için işe alıyorlar ve bunun bedelini ödemek zorundalar.”
“ChatGPT gibi bir araç, çeşitli kimlik avı mesajları oluştururken onlara çok para kazandırabilir. Bence yapmak istedikleri şey bu.” Teorik olarak, kötüye kullanımı önlemek için korumalar getirilmiştir. Örneğin, ChatGPT, kullanıcıların kaydı doğrulamak için bir e-posta adresi ve telefon numarası kaydetmesini gerektirir.
Ancak chatbot, kimlik avı e-postaları yazmayı reddetse de, siber saldırganlar tarafından yaygın olarak kullanılan diğer iletiler için e-posta şablonları oluşturması istenebilir. Bunlar, yıllık bir ikramiyenin sunulduğu, önemli bir yazılım güncellemesinin indirilmesi ve kurulması gerektiği veya ekli bir belgenin acilen gözden geçirilmesi gerektiği mesajları olabilir.
Bir siber güvenlik sağlayıcısı olan Crowdstrike’ın istihbarattan sorumlu kıdemli başkan yardımcısı Adam Meyers, “Anadili İngilizce olmayan biri olsanız yapamayacağınız, güzel ifade edilmiş ve gramer açısından doğru bir davetiye oluşturmak mümkündür” diyor. ve tehdit istihbarat servisleri.
Sahte profiller
Ancak bu araçların kötüye kullanımı e-posta ile sınırlı değildir. Suçlular, onu herhangi bir metin tabanlı çevrimiçi platform için komut dosyaları yazmak için kullanabilir. Dolandırıcılık yapan saldırganlar ve hatta casus kampanyaları yürütmeye çalışan yüksek profilli bilgisayar korsanı grupları için bu araç, özellikle insanları cezbetmek için sahte sosyal profiller oluştururken yararlı olabilir.
Bir bulut bilgi işlem olan Fastly’de üretilen siber güvenlik uzmanı ve baş teknoloji uzmanı Kelly Shortridge, “LinkedIn’de bağlantı kurmaya çalışan gerçek bir iş adamı olduğunuz izlenimini vermek için makul bir iş tartışması oluşturmak istiyorsanız, ChatGPT bunun için idealdir” diyor. Sağlayıcı.
Çeşitli bilgisayar korsanı grupları, siber casusluk kampanyaları yürütmek için LinkedIn ve diğer sosyal medya platformlarından yararlanmaya çalışır. Ancak sahte, yasal görünen çevrimiçi profiller oluşturmak ve bunları mesajlarla doldurmak zaman alan bir süreçtir. Kelly Shortridge, bilgisayar korsanlarının ilgi çekici içerik yazmak için ChatGPT gibi yapay zeka araçlarını kullanabileceklerini ve işin manuel olarak yapılmasına göre daha az emek yoğun olma avantajına sahip olabileceklerini düşünüyor.
Yapay zeka araçlarının giriş engelini önemli ölçüde azaltabileceğine inanarak, “Bunun gibi birçok sosyal mühendislik kampanyası çok çaba gerektiriyor çünkü bu profilleri oluşturmanız gerekiyor” diye açıklıyor. “ChatGPT’nin bazı çok çekici düşünce liderliği mesajları oluşturabileceğinden eminim” diyor.
İstismarı tamamen ortadan kaldırmanın bir yolu yok
Teknolojik inovasyonun doğası, ne zaman yeni bir şey ortaya çıksa, onu kötü amaçlarla kullanmaya çalışan insanların her zaman olacağı anlamına gelir. Kötüye kullanımı önlemenin en yenilikçi yollarıyla bile, siber suçluların ve dolandırıcıların sinsi doğası, korumaları aşmanın yollarını muhtemelen bulacakları anlamına gelir.
Potansiyel siber güvenlik sorunlarının vurgulanmasının kötüye kullanımın nasıl önleneceği konusunda daha fazla tartışmaya yol açacağını uman Shykevich, “Kötüye kullanımı tamamen ortadan kaldırmanın bir yolu yok. Bu, hiçbir sistemde olmamıştı” diyor.
“Bu harika bir teknoloji, ancak yeni teknolojide her zaman olduğu gibi riskler var ve bunların farkında olmak için bunları tartışmak önemlidir. Ve bence ne kadar çok konuşursak, OpenAI ve diğer benzer şirketlerin riskleri azaltmak için daha fazla yatırım yapma olasılığı o kadar artıyor.” kötüye kullanma” önerisinde bulunuyor.
Siber güvenliğe ilgi
ChatGPT gibi AI sohbet botları da siber güvenlik için ilgi çekicidir. Özellikle kodla uğraşma ve kodu anlama konusunda iyidirler. Bu nedenle, savunucuların kötü amaçlı yazılımları anlamalarına yardımcı olmak için bunları kullanmak mümkündür. Ayrıca kod yazabildikleri için, bu araçların geliştiricilere projelerinde yardımcı olarak daha iyi ve daha güvenli kodları daha hızlı oluşturmalarına yardımcı olması mümkündür.
olarak son zamanlarda Forrester Baş Analisti Jeff Pollard, ChatGPT’nin güvenlik olaylarını bildirmek için gereken süreyi önemli ölçüde azaltabileceğini yazıyor. “Bu raporları daha hızlı işlemek, güvenlik ekiplerinin uyum sağlamasına yardımcı olan test, değerlendirme, araştırma ve yanıt gibi diğer görevler için daha fazla zaman kazandırıyor” diyor ve bir bot’un mevcut verilere dayalı olarak önerilen sonraki eylemleri önerebileceğini ekliyor.
“Güvenlik orkestrasyonu, otomasyonu ve yanıtı, yapay yapı kurtarmayı hızlandırmak için uygun şekilde yapılandırılırsa, algılamayı ve yanıtı hızlandırabilir ve güvenlik operasyonları merkezi analistlerinin daha iyi kararlar almasına yardımcı olabilir” . Chatbot’lar bu nedenle bazı siber güvenlik oyuncuları için hayatı zorlaştırabilir, ancak olumlu yanları da olabilir.
Zdnet.com yorum için OpenAI ile iletişime geçti, ancak bir yanıt alamadı. Ancak Zdnet.com, ChatGPT’ye kimlik avı amacıyla kullanılmasını önlemek için hangi kurallara sahip olduklarını sordu ve aşağıdakileri aldık.
“ChatGPT gibi yapay zeka dil modellerinin, kimlik avı e-postalarına benzer metinler oluşturabilse de, kendi başlarına kötü niyetli eylemler gerçekleştiremediklerini belirtmek önemlidir. Bu nedenle, kullanıcıların yapay zeka teknolojisini kullanırken dikkatli ve sağduyulu olmaları ve bunlara karşı tetikte olmaları önemlidir. kimlik avına ve diğer kötü niyetli faaliyetlere karşı koruyun.”
Kaynak : “ZDNet.com”