Yapay Zeka Ajanlarının Güvenliği: Tehditler ve Korunma Yöntemleri

Yapay zeka ajanın, bir kullanıcının adına hareket etmesi halinde güvenlik açıkları ciddi bir tehdit oluşturabilir. Microsoft’un araştırmaları, saldırganların sadece değiştirilmiş bir araç tanımıyla bu ajanın şirket verilerini dışarıya sızdırabileceğini ortaya koyuyor.

Saldırı Nasıl Çalışıyor?

Yapay zeka ajanın, Model Context Protocol (MCP) üzerinden iş sistemlerine eriştiği bilinmektedir. Saldırganlar, her MCP aracına bağlı olarak gelen tanımları kullanarak ajanın davranışını etkileyebilir. Bu tanımlar, aracın ne yaptığını ve ne zaman kullanılacağını belirtir; ancak bu açıklamalar, zararlı komutları saklamak için de kullanılabilir.

Bir örnekle açıklamak gerekirse, bir finans ekibi, tedarikçi faturalarını yönetmek için bir ajan oluşturduğunda, bu ajan belirli araçlarla bağlantı kurar. Saldırgan, üçüncü parti bir aracı güncelleyebilir ve bu güncellemenin içinde gizli talimatlar yer alabilir. Örneğin, faturaların son otuzunu toplamak ve bunları bir istekle birlikte göndermek gibi.

Bu işlem, ajanın izlediği her adımın kendi başına meşru görünmesi ile birleştirilmiştir. Araç onaylıydı, veri sorgulama analistin kendi yetkileriyle gerçekleştirildi ve çıkış çağrısı izin verilen bir sunucuya yapıldı. Microsoft’un belirttiği gibi, zayıflık tek bir sistemde değil, “onlar arasındaki güven sınırında” yatmaktadır.

Etkilenen Sistemler

Bu tarz saldırılar, aşağıdaki gibi durumları kapsamaktadır:

• Microsoft 365 Copilot gibi ajanlar
• Özel ajanlar (Copilot Studio veya Azure AI Foundry’de geliştirilmiş)
• MCP üzerinden bağlanan her dış araç

Çözüm ve Korunma

Microsoft’un önerileri şunlardır:

• Tüm bağlı araçları tedarik zincirinin bir parçası olarak ele alın. Onaylı araç yayıncılarının bir listesini tutun ve “tümüne izin ver” seçeneğini kapatın.
• Aracın tanımını sistem talimatı gibi değerlendirin. Değişiklikleri, bir kod değişikliği gibi gözden geçirin.
• Riskli eylemler için bir insanın onayını alın. Para hareketleri veya veri paylaşımı gibi işlemler kişinin onayını gerektirsin.
• Her ajana bir kimlik verin ve ne yaptığını izleyin. Eylemlerini kaydedin ve anormal sorguları işaretleyin.
• En az yetki uygulanmalıdır. Düşük yetki verilen bir ajan bile kontrolsüz hareket ederse ciddi hasarlar verebilir.

Bu stratejiler, Prompt Shields, Purview DLP, Entra Agent ID, Defender for Cloud ve Sentinel gibi Microsoft ürünleriyle desteklenebilir.

Sonuç

Yapay zeka ajanın güvenliği, yalnızca kullanılabilir araçların güvenliği kadar değerlidir. Yapay zeka uygulamalarınızı gözden geçirerek, bağlı araçların onay süreçlerini sıkılaştırın ve güncellemelerinizi düzenli olarak kontrol edin. Güvenliği sağlamak için sistemlerinizi güncel tutmak ve toplu erişim yetkilerini sınırlamak önemlidir. Unutmayın, ajanın güvenirliği, onu etkileyen araçların güvenliğiyle doğrudan ilişkilidir.