Giriş
Son dönemde yapılan bir araştırmada, yapay zeka tabanlı kod inceleme araçlarının güvenlik açıklarına nasıl maruz kaldığı ortaya kondu. Özellikle, otomatik modda çalışan bu araçlar, kötü niyetli kodları kendi sistemlerinde çalıştırabiliyor.
Saldırı Nasıl Çalışıyor?
Araştırmacılar Boyan Milanov ve Heidy Khlaaf, “Friendly Fire” olarak adlandırılan bu saldırıyı test etti. CVE kodları ve versiyonları incelendiğinde, saldırının hedef aldığı yazılımlar arasında şunlar bulunmaktadır:
- Claude Code (CLI 2.1.116, 2.1.196, 2.1.198, 2.1.199)
- OpenAI Codex (CLI 0.142.4)
Bu araçlar, güvenilir olmayan üçüncü taraf kodlarını incelemek amacıyla tasarlanmış olsa da, otomatik onay modunda yönlendirilince, saldırganın kodunu kendi makinelerinde çalıştırma riski taşımaktadır.
Etkilenen Sistemler
Saldırı şu koşullar altında gerçekleşmektedir:
– İlgili yapay zeka araçları, riskli olduğunu belirttiği komutlar haricindeki tüm komutları çalıştırmak için sınıflandırıcı kullanmaktadır.
– Araçlar, her hangi bir eylem için izin istemeden çalıştırma yeteneğine sahiptir.
Bu, saldırganların sistemin güvenlik kontrollerini aşmasına olanak tanımaktadır. Örneğin, geopy gibi yaygın bir Python kütüphanesi üzerine inşa edilen bir örnekte, saldırganlar README.md dosyasına yerleştirdikleri bir betikle kötü niyetli bir ikili dosyayı çalıştırmayı başardılar.
Çözüm ve Korunma
Aktif bir güvenlik açığı ile karşılaşmamak için, aşağıdaki önerilere uyulmalıdır:
- Güvenilir olmayan kodları, komutlar çalıştırabilen bir araca vermekten kaçının.
- Otomatik modun kapatılması veya daha sıkı güvenlik kontrollerinin uygulanması önemlidir.
- Sisteminize ilişkin her türlü güncellemeyi ve yamanmaları uygulayın.
Ayrıca, otomatik modda çalışan araçların kullanımı sırasında dikkatli olunmalı ve inceleme esnasında sadece README.md dosyasına bağlı olarak çalışan ikili dosyaların kontrol edilmesi gerekmektedir.
Sonuç
Sonuç olarak, bu tür güvenlik açıklarını önlemek için kullanıcıların güncellemeleri takip etmesi, otomatik modları kapatması ve güvenilir olmayan kaynaklardan gelen kodları dikkatle incelemesi gerekmektedir. Ayrıca, güvenlik altyapısının sürekli gözden geçirilmesi ve iyileştirilmesi gereklidir.
