Günümüzde siber güvenlik tehditleri arasında yer alan “GitLost” tekniği, GitHub Agentic Workflows’u kullanarak bir organizasyonun özel havuzlarının içeriklerini sızdırmak için bir yöntem sunmaktadır. Bu durumun ciddiyeti, saldırganın yalnızca basit bir halka açık sorun açarak (issue) gizli verilere erişebilmesi gerçeğidir.
Saldırı Nasıl Çalışıyor?
Bu saldırının temel zayıflığı, dolaylı istem enjeksiyonu olarak bilinir. AI ajanın, sahibinden gelen talimatlarla okuduğu içerik içinde gizlenmiş talimatları ayırt edememesi, saldırganların bu boşluktan faydalanmasına olanak tanır. Noma’nın kanıtında, saldırgan, kötü niyetli sorunu bir Satış VP’sinin rutin isteği biçiminde süslemiştir. Bu otomasyon, bir sorun atandığında etkinleşecek şekilde ayarlanmış ve organizasyonun diğer havuzlarına okuma erişimi sağlamıştır.
Otomatik bir işlem devreye girdiğinde, ajan gizli bir havuzun README dosyasını çekip kamuya açık bir yorumda yayınlamıştır.
Etkilenen Sistemler
- GitHub Agentic Workflows: Şu an public preview aşamasında. Kullanıcılar, otomasyon betikleri yazmak yerine AI ajanın yapacağı işlemleri doğal dil ile ifade ediyor.
- AI Ajanları: GitHub Copilot, Anthropic’in Claude, Google Gemini ve OpenAI Codex gibi çeşitli AI ajandaları yollarla çalışan bu sistemler.
- Havuzlarda okuma erişimi veren token yapılandırmaları ile özel verilere erişim imkanı.
Çözüm ve Korunma
Noma, GitLost’u GitHub’a bildirmiştir ve bu güvenlik açığı, yalnızca önizleme sürümünü açmış ve güvenilir olmayan dış içerikleri okuma iznine sahip bir ajana sahip organizasyonları etkilemektedir. Bir saldırganın elde edebileceği bilgiler, ajanın erişim iznine bağlıdır:
- Özel kaynak kodları
- Özel anahtarlar
- Tasarım belgeleri
- CI/CD sırları
Kısa vadede yapılması gerekenler:
- Ajan tokenlarının erişim kapsamını daraltın; mümkünse yalnızca belirli bir havuza erişim tanıyın.
- Açık alanlara yükleme yapabilen iş akışlarını sınırlayın.
- Ajanların hangi içerikleri işleyebileceğini kısıtlayın ve çıktılarının insan incelemesiyle geçmesini sağlayın.
GitHub’ın tehdit tespit adımları, ajanın çıktısını yayınlamadan önce taramaktadır. Ancak, Noma’nın tespit ettiği tek kelimelik bir atlatma, bu tür filtrelerin yalnızca bir güvenlik sağladığını göstermektedir. Başka bir değişle, güçlü bir yapı olmadan, özel verilere erişimi olan ve güvenilir olmayan içerikler alan her ajanın, yanlış bir ifade ile gizli veri sızdırma riski taşımaktadır.
Neler Yapılmalı?
GitHub gibi platformların sunduğu koruma mekanizmalarına rağmen, “GitLost” gibi örneklerin yaşanmaması için organizasyonların dikkat etmesi gereken önemli noktalar vardır. Bu mekanizmaların etkin bir şekilde çalışabilmesi için çevresel yapılandırmaların gözden geçirilmesi gerekmektedir. Bu nedenle, güncellemeleri takip etmek ve güvenlik açıklarına karşı önlemler almak kritik öneme sahiptir.
Unutmayın, AI tabanlı sistemlerin gücünü kullanırken dikkatli olmak ve bu tür tehditlere karşı hazırlıklı olmak büyük önem taşımaktadır.
