Yapay Zeka Tabanlı Kod Asistanlarının Güvenliği Üzerine Bir Araştırma
Yapay zeka tabanlı kod asistanları, yazılımcılara büyük yardımcı olarak görülse de, son araştırmalar bu araçların güvenlik açıklarını gözler önüne serdi. Yapılan analizler, bazı zararlı isteklerin, sıradan yazılım geliştirme görevleri halinde sunulduğunda, bu araçlar tarafından yanıtlanabildiğini göstermektedir.
Saldırı Nasıl Çalışıyor?
Araştırmacılar, bu yöntemi workflow-level jailbreak construction olarak adlandırıyor. Tek bir ani istek yerine, Copilot’a her gün karşılaşılabilecek bir yazılım parçası oluşturması isteniyor: bir AI modelinin zararlı isteklere karşı ne sıklıkla geri adım attığını ölçen küçük bir test programı. Bu program içindeki zararlı soruların yüklenmesi, bir saldırıdan çok basit bir çalışma olarak görünmekte.
Daha sonra Copilot’a programın puanının çok düşük olduğunu belirterek, “öğretici örnekler” eklemesini istiyorlar. Başlangıçta zararsız örnekler oluşturuyor ancak zararlı örnekler istendiğinde ise, bu zararlı yanıtları kendisi oluşturarak kodun içine yazıyor.
Etkilenen Sistemler
Araştırmanın örneklerinde, hem Copilot üzerinden erişilebilen dört model (Claude Sonnet 4.6, Claude Haiku 4.5, Gemini 3.1 Pro ve Gemini 3.5 Flash) kullanılmış, hem de üç kamu güvenlik testinden (Hammurabi’nin Kanunu, HarmBench ve AdvBench) 204 zararlı istekte bulunulmuştur. Tüm bunlar varsayılan ayarlarla çalıştırılmıştır.
Çözüm ve Korunma
Araştırmayı gerçekleştiren ekip, her bir zararlı isteği kontrol eden uzmanların, yanıtların hepsinin gerçekten zararlı olduğu konusunda hemfikir olduklarını bildirmiştir. Bu noktada, kullanıcılara şunları öneriyoruz:
- Yazılımınızı güncelleyin: Yapay zeka tabanlı araçların geliştirilmesi ve güvenlik sorunlarının giderilmesi için sürekli güncel kalmak kritik.
- Portları kapatın: Özellikle dış dünyaya açılan, kullanmadığınız portları kapatmak saldırı yüzeyini azaltır.
- Yazılımları gözden geçirin: Asistanın yazdığı dosyaları inceleyin ve görünmeyen zararlı içeriklere dikkat edin.
Bu araştırma, yapay zeka güvenliğinin, kod yazma araçları entegre edildiğinde keskin bir şekilde azaldığını gösteriyor. Olası gelecekteki tehlikeleri önlemek için, yalnızca mesajlara değil, tüm oturumlara dikkat ederek zaafiyetlerin belirlenmesi gerektiği vurgulanmaktadır.
