Dünyanın en popüler sohbet robotu ChatGPT, güçlerini tehdit aktörleri tarafından yeni kötü amaçlı yazılım türleri oluşturmak için kullanıyor.
Siber güvenlik firması WithSecure, kötü şöhretli AI yazarı tarafından vahşi doğada oluşturulan kötü amaçlı yazılım örnekleri bulduğunu doğruladı. ChatGPT’yi özellikle tehlikeli yapan şey, tespit edilmelerini zorlaştıran sayısız kötü amaçlı yazılım çeşidi üretebilmesidir.
Kötü aktörler, ChatGPT’ye mevcut kötü amaçlı yazılım kodlarından örnekler verebilir ve bunlara dayalı olarak yeni türler oluşturması talimatını verebilir, bu da kötü amaçlı yazılımları daha önce olduğu gibi neredeyse aynı düzeyde zaman, çaba ve uzmanlık gerektirmeden sürdürmeyi mümkün kılar.
iyilik ve kötülük için
haber şöyle gelir yapay zekayı düzenlemekten bahsetmek bol miktarda, kötü amaçlarla kullanılmasını önlemek için. Geçen yıl Kasım ayında çılgına döndüğünde ChatGPT’nin kullanımını yöneten hiçbir düzenleme yoktu ve bir ay içinde kötü amaçlı e-postalar ve dosyalar yazmak için çoktan ele geçirildi.
Modelin içinde, hain istemlerin gerçekleştirilmesini durdurmayı amaçlayan belirli önlemler vardır, ancak tehdit aktörlerinin bunları atlayabilmesinin yolları vardır.
WithSecure CEO’su Juhani Hintikka şunları söyledi: bilgi güvenliği AI genellikle siber güvenlik savunucuları tarafından tehdit aktörleri tarafından manuel olarak oluşturulan kötü amaçlı yazılımları bulmak ve ayıklamak için kullanılmıştır.
Ancak, ChatGPT gibi güçlü yapay zeka araçlarının ücretsiz olarak kullanıma sunulmasıyla artık işler tersine dönüyor gibi görünüyor. Uzaktan erişim araçları yasa dışı amaçlar için kullanıldı ve şimdi yapay zeka da öyle.
WithSecure tehdit istihbaratı başkanı Tim West, “ChatGPT, yazılım mühendisliğini iyi ve kötü yönde destekleyecek ve tehdit aktörlerinin kötü amaçlı yazılım geliştirmesi için bir kolaylaştırıcı ve giriş engelini azaltacaktır” dedi.
Hintikka’ya göre, ChatGPT’nin kaleme alabildiği kimlik avı e-postaları genellikle insanlar tarafından tespit ediliyor, çünkü LLM’ler daha gelişmiş hale geldikçe, yakın gelecekte bu tür dolandırıcılıklara düşmeyi önlemek daha zor hale gelebilir.
Dahası, fidye yazılımı saldırılarının başarısı endişe verici bir oranda artarken, tehdit aktörleri yeniden yatırım yapıyor ve daha organize hale geliyor, dış kaynak kullanarak operasyonlarını genişletiyor ve daha başarılı saldırılar başlatmak için yapay zeka anlayışlarını daha da geliştiriyor.
Hintikka, önümüzdeki siber güvenlik ortamına bakarak, “Bu, iyi yapay zekaya karşı kötü yapay zekanın bir oyunu olacak” sonucuna vardı.
