OWASP, otonom AI ajanları için hazırladığı 2026 Yılı için Agentic Uygulamalar Üst 10 listesini açıkladı. Bu, otonom AI ajanlarına yönelik ilk güvenlik çerçevesidir.
Agentic AI için Belirleyici Bir Yıl
Son bir yıl, AI kabulü açısından belirleyici bir dönem oldu. Agentic AI, araştırma demolarından üretim ortamlarına geçerek, e-posta yönetimi, iş akışları, kod yazma ve yürütme gibi görevleri üstlenmeye başladı. Claude Desktop, Amazon Q ve GitHub Copilot gibi araçlar, günlük geliştirici iş akışlarının vazgeçilmez bir parçası haline geldi.
Bu benimseme ile birlikte, bu teknolojileri hedef alan saldırılarda bir artış gözlemlendi. Saldırganlar, güvenlik ekiplerinin daha geç fark ettiği yüksek değerli hedeflerin var olduğunu anladı: AI ajanları geniş erişim, örtük güven ve sınırlı denetim ile donatılmıştır.
OWASP Agentic Üst 10’a Genel Bakış
Bu çerçeve, otonom AI sistemlerine özgü on risk kategorisini tanımlıyor:
| ID | Risk | Açıklama |
ASI01 | Agent Goal Hijack | Bir ajanın hedeflerinin, enjekte edilmiş talimatlarla manipüle edilmesi. |
ASI02 | Tool Misuse & Exploitation | Ajansların, manipülasyon nedeniyle meşru araçları kötüye kullanması. |
ASI03 | Identity & Privilege Abuse | Kredilerin ve güven ilişkilerinin istismarı. |
ASI04 | Supply Chain Vulnerabilities | Tehdit altında olan MCP sunucuları, eklentileri veya harici ajanlar. |
ASI05 | Unexpected Code Execution | Ajansların kötü niyetli kod oluşturması veya çalıştırması. |
Gerçek Dünya Saldırıları Üzerinden Risklerin İncelenmesi
ASI01: Agent Goal Hijack
Bu risk, saldırganların bir ajanın hedeflerini manipüle etmesini içerir. Örneğin, Kasım 2025’te bulduğumuz bir npm paketi, iki yıl boyunca 17,000 indirme aldı. Bu pakette, herhangi bir AI güvenlik aracını yanıltmayı amaçlayan bir dizi string mevcuttu.
ASI02: Tool Misuse & Exploitation
Bu risk, ajanların meşru araçları zararlı bir şekilde kullanmasından kaynaklanıyor. Örneğin, Temmuz 2025’te, Amazon’un AI kodlama asistanı kötü niyetli bir pull request ile zehirlendi. Bu, ajanın, bulut kaynaklarını silmesini sağlayan komutları çalıştırmasını sağladı.
Siber Güvenlikte Ne Anlama Geliyor?
OWASP Agentic Üst 10, bu risklere isimler ve yapı kazandırıyor. Ancak saldırılar, çerçeveleri beklemeyecek kadar hızlı gerçekleşiyor. Eğer AI ajanları kullanıyorsanız, aşağıdaki önlemleri almak kritiktir:
- Çalışanları Tanıyın: Herhangi bir MCP sunucusu, eklenti ve araç envanteri oluşturun.
- Güvenilirliği Doğrulayın: Özellikle imzalı paketleri tercih edin.
- Etki Alanını Sınırlayın: Her ajana mümkün olan en az yetkiyi verin.
- Davranışları İzleyin: Sadece kodu değil, aynı zamanda ajanların gerçek eylemlerini takip edin.
- Acil Durum Kapatma Mekanizması Bulundurun: Bir tehdit algılandığında hızlı bir şekilde kapatma yapın.
Tam OWASP çerçevesi, her kategori için detaylı önlemler sunmaktadır. AI güvenliğiyle ilgilenen herkesin bu bilgileri incelemesi tavsiye edilir.
Kaynaklar
Bu içerik Koi Security tarafından hazırlanmıştır.
