- Veri zehirlenmesi: AI modelleri, eğitim sırasında yanlış veya yanıltıcı veriler getirilerek manipüle edilebilir. Bu, ajanın karar verme sürecini etkileyebilir ve potansiyel olarak kötü niyetli veya yanlış davranmasına neden olabilir.
- Düşmanca saldırılar: Bunlar, AI ajanı dikkatlice hazırlanmış girdilerin, onu aldatmak veya karıştırmak için tasarlanmış dikkatle beslenmeyi içerir. Bazı durumlarda, düşmanca saldırılar bir AI modelini yanlış yorumlayabilir ve bu da zararlı kararlara yol açabilir.
- Sosyal Mühendislik: Dolandırıcılar, kullanıcıları kişisel bilgileri veya parayı açığa çıkarmak için AI ajanları ile insan etkileşimini kullanabilir. Örneğin, bir AI temsilcisi müşterilerle etkileşime girerse, bir dolandırıcı kullanıcıları dolandıracak şekilde hareket etmek için manipüle edebilir.
- Güvenlik açıkları: AI ajanları daha büyük sistemlere veya internete bağlıysa, güvenlik kusurları aracılığıyla saldırıya uğrayabilir ve kötü amaçlı aktörlerin bunlar üzerinde kontrol sahibi olmalarını sağlar. Bu özellikle finansal hizmetler, otonom araçlar veya kişisel asistanlar gibi alanlarla ilgili olabilir.
Tersine, ajanlar iyi tasarlanmış ve yönetilirse, AI’nın özerkliği uyarlanabilir güvenliği sağlamak için kullanılabilir, bu da tehditleri tanımlamalarına ve bunlara yanıt vermelerine izin verir.
Gartner’s Litan, “Guardian ajanları” – Alanlar arasında aracıları denetleyebilen özerk sistem. Önceden tanımlanmış hedeflere ulaşmaları için bunları engelleme veya yeniden yönlendirme de dahil olmak üzere ajan eylemlerini izleyerek, analiz ederek ve yöneterek güvenli, güvenilir AI sağlarlar.
AI Guardian Ajan AI uygulamalarını yönetirİş danışmanlığı EA ilkelerine göre, politikaların uygulanması, anormalliklerin tespit edilmesi, risklerin yönetilmesi ve bir kuruluşun BT altyapısında uyumun sağlanması.
