Yapay Zeka ile Saldırı: HalluSquatting Tehlikesi
Yapay zeka (YZ) kodlama asistanlarının gerçek dışı bilgiler üretme eğilimi, güvenlik açısından büyük bir tehlike oluşturuyor. Yeni bir araştırma ile bu durum, YZ’nin yanlış tanımladığı isimlerin kullanılmasını içeren bir saldırı biçimi olarak ortaya çıkıyor; bu duruma “HalluSquatting” deniyor.
Çalışma Prensibi
Saldırı, iki YZ alışkanlığına dayanıyor. İlk olarak, YZ’nin gerçek olmayan bir şey uydurarak bunu gerçekmiş gibi sunması (hallucination) ve ikinci olarak, bir saldırganın talimatlarını içeren bir booby-trap komutu (prompt injection) kullanarak YZ’yi manipüle etmesidir. Bu durumda, talimatlar, kullanıcının yazdığı değil, YZ’nin aldığı içerikler üzerinden geliyor.
- Hedef Seçimi: Saldırgan, popüler bir eklenti veya repository bulur ve YZ’nin sıkça talep ettiği bir kaynak seçer.
- Yanlış Bilgiyi Öğrenme: Saldırgan, YZ’ye bu kaynağı sürekli olarak sormakta ve en sık üretilen yanlış ismi kaydeder.
- Yanlış İsim Kaydı: Saldırgan, bu ismi GitHub veya bir eklenti dükkanında kaydeder ve içerisine saldırgan talimatlar gömer.
- Bekleme: Gerçek bir kullanıcı YZ’sine popüler kaynağı sorduğunda, YZ saldırganın versiyonunu çeker ve gömülü talimatları gerçekleştirmeye başlar.
Saldırının temelinde, YZ asistanlarının kullandığı terminal araçları bulunmaktadır. Bu asistanlar, siber saldırganın beklentilerini karşılayacak şekilde komutları çalıştırma yeteneğine sahiptirler.
Etkilenen Sistemler
Bu tür bir saldırı, özellikle YZ asistanlarının dış kaynakları alıp, düşük insan denetimi ile çalıştırma yeteneğine sahip olduğu durumlarda bir tehdit oluşturuyor. Yapılan testlerde, saldırganın kurguladığı kod parçaları, etkilenen makinelerde çalıştırılmıştır. Özellikle Cursor, Windsurf, GitHub Copilot, Cline, Google’ın Gemini CLI ve OpenClaw gibi popüler araçlar üzerinde risk altına girmiştir.
Yeni Nesil Botnet Tehlikesi
Geleneksel botnet’ler, zayıf parolalar veya makineden makineye yayılan kötü amaçlı yazılımlar ile oluşturulurken, HalluSquatting bu yöntemlere ihtiyaç duymamaktadır. YZ’nin yaptığı hatalı isimlendirme, kullanıcıların farkında olmadan saldırganın yazılımını yüklemesine yol açar.
Saldırının yeniliği, kötü niyetli yazılımın doğrudan bir ağ açığı değil, metin olarak geldiğinde, güvenlik duvarlarının genellikle algılayamadığı bir yöntemle yayılmasıdır.
Çözüm ve Korunma
Saldırının etkisini azaltmanın en etkili yolu, YZ asistanlarının dış kaynakları almadan önce mutlaka araştırma yapmasını sağlamaktır. Bu, YZ’yi gerçekte var olan kaynaklara yönlendirecek ve yanlış isimlendirmeleri azaltacaktır.
Kullanıcılar ve güvenlik ekipleri için kısa vadede alınacak önlemler şunlardır:
- Asistanların otomatik şekilde komut çalıştırma yeteneğini kapatmak. Yalnızca kullanıcı talimatı ile çalışacak şekilde ayarlamak.
- Kaynak ya da eklenti adının beklenen, gerçek kaynakla örtüştüğünden emin olun.
- YZ’nin sunduğu adların sadece varsayımlar olduğunu kabul etmelidir.
Platform yöneticileri kendi önlemlerini alabilir. Tanınmış repository isimlerinin yeni hesaplar altında kullanılmasını engelleyebilir ve YZ’nin genellikle üretmesine neden olacağı sahte isimleri önceden kaydedebilirler.
Yapılan araştırmalar, siber saldırıların şekil değiştirmeye devam edeceğini göstermekte. Bu nedenle, bir ürünün hatasından ziyade, YZ asistanlarının güvenilir kaynaksız durumlarda isimleri güvenilir olarak kabul etmesi bir zayıflıktır.
