Giriş
Yapay zeka asistanlarının hafızasına erişim sağlamak, saldırganlara kullanıcının bilgisini manipüle etme fırsatı sunuyor. “Stealth memory injection” adı verilen bu saldırı türü, yalnızca bir e-posta ile bir yapay zeka asistanının hafızasına sahte bilgiler eklemeyi mümkün kılıyor.
Yapay Zeka Asistanları Ne Yapar?
Kişisel bir yapay zeka asistanı, kullanıcı hakkında süreklilik sağlayan bir yapıda çalışır. Her oturumun başında, kullanıcıdan edindiği bilgileri (tercihler, kişiler ve görevler) hatırlayarak, kullanıcı ile etkileşimde bulunur.
- Birçok asistan, e-postaları okuma, takvim kontrolü ve uzaktayken küçük işler yapma gibi görevleri yerine getirir.
- Açık kaynaklı OpenClaw gibi bazı asistanlar, kullanıcıyla ilgili bilgileri düz metin dosyalarında saklar; bunlar arasında öğrenilmiş bilgiler (MEMORY.md) ve temel talimatlar (AGENTS.md) yer alır.
Tek E-posta İle Saldırı
Saldırganın, kullanıcının e-posta hesabına erişimi gerekmeksizin, yalnızca bir e-posta göndermesi yeterlidir. Bu e-posta, asistanın cevap verme mekanizmasına yönelik ifadelere sahip olmalı ve saldırgan tarafından yazılmıştır.
- Saldırgan e-postayı gönderdikten sonra, asistan kendi dosya araçlarını kullanarak çürütme notunu hafızasına kaydeder.
- Saldırı başarılı olursa, asistanın bir sonraki oturumunda, bu yanlış bilgi otomatik olarak kullanıcıya iletilir.
Etkilenen Sistemler
Bu tür bir saldırı, özellikle aşağıdaki sistemleri etkileyebilir:
- Açık kaynaklı yapay zeka asistanları, örneğin OpenClaw.
- GPT-5.4 ve Claude Code SDK gibi gelişmiş yapay zeka modelleri.
Çözüm ve Korunma
Şu anda açık bir yamanın olmadığı bu durum için alınabilecek önlemler şunlardır:
- Yapılacak her bilgi güncellemesini kullanıcının onayına sunun.
- E-posta yoluyla gelen talimatların etkilerini sınırlayın ve kuşkulu gelen dosyaları inceleyin.
- Kullanıcıdan gelen bilgilerin kaynağını ve geçmişini takip edin.
Sonuç
OpenClaw modeli ve diğer asistanlar üzerinde yapılan bu araştırma, kullanıcıların tehditlerden korunmak için yapması gerekenleri açıkça gösteriyor. Kullanıcıların, yazılım güncellemelerini dikkatle takip etmesi, potansiyel tehlikelerde port kapatma ve güvenlik ayarlarını gözden geçirmesi gerekmektedir.
