Yapay Zeka Sistemlerinde Veri İhlali Tehdidi
Gelişen teknoloji ile birlikte, yapay zeka (YZ) sistemleri hayatımızın her alanında yer almaya başladı. Ancak, bu sistemlerin sunduğu imkanların yanı sıra ciddi güvenlik tehditleri de ortaya çıkıyor. Son zamanlarda, Trail of Bits araştırmacıları, YZ sistemleri aracılığıyla kullanıcı verilerini çalan yeni bir saldırı yöntemi geliştirdi. Bu yöntem, resimlerin işlenmesi sırasında kötü niyetli komutların görüntülere enjekte edilmesiyle işlemektedir.
Saldırının Mekanizması
Kullanıcılar, YZ sistemlerine resim yüklediğinde, bu görüntüler performans ve maliyet etkinliği amacıyla otomatik olarak daha düşük bir kalitede yeniden boyutlandırılmaktadır. Yüzde olarak bakıldığında, bu boyutlandırma işlemi alternatif algoritmalar kullanılarak yapılmaktadır. En yaygın teknikler arasında yakın komşu, bilinear ve bicubic interpolasyon yöntemleri bulunmaktadır. Bu yöntemlerin her biri, resmin kalitesi düştüğünde gizli desenlerin ortaya çıkmasına neden olabilecek “aliasing” hataları oluşturmaktadır.
Örneğin, Trail of Bits araştırmalarında, kötü niyetli bir görüntünün belirli koyu alanları, bicubic ölçeklendirme kullanıldığında kırmızıya dönüşmekte ve bu sayede gizli metin siyah bir şekilde belirginleşmektedir.
Bir Örnekle Açıklama
Bir uygulama örneği, araştırmacıların, Gemini CLI’den faydalanarak, Google Takvim verilerini rastgele bir e-posta adresine dışa aktarabilmesidir. Açıkça, kullanıcıdan onay almadan Zapier MCP ile ‘trust=True’ izinleri kullanıldıktan sonra bu talep gerçekleştirilmiştir. Bu durum, kullanıcılar açısından fark edilmeyen bir tehdit oluşturmakta ve potansiyel veri ihlali risklerini artırmaktadır.
Saldırıya Karşı Savunma Yöntemleri
Trail of Bits araştırmacıları, her YZ modelinin ölçeklendirme algoritmasına göre saldırıya uygun bir şekilde ayarlanması gerektiği belirtiyor. Ancak, araştırmacılar, bu yöntemin aşağıdaki YZ sistemlerine karşı uygulanabilir olduğunu doğrulamışlardır:
- Google Gemini CLI
- Vertex AI Studio (Gemini arka ucu ile)
- Gemini’nin web arayüzü
- Gemini’nin API’sı aracılığıyla llm CLI
- Android telefonlarda Google Asistan
- Genspark
Bu saldırı vektörü oldukça yaygın olduğundan, test edilen araçların ötesine geçme potansiyeline sahiptir. Araştırmacılar, bulgularını göstermek amacıyla Anamorpher adında, şu anda beta aşamasında olan ve belirtilen ölçeklendirme yöntemleri için görüntüler oluşturabilen açık kaynaklı bir araç geliştirmişlerdir.
Kullanıcıların Alması Gereken Önlemler
Trail of Bits araştırmacıları, YZ sistemlerinin kullanıcıların bir görüntü yüklerken boyut kısıtlamaları uygulamasını öneriyorlar. Eğer yeniden boyutlandırma zorunlu ise, kullanıcıların büyük dil modeline (LLM) gönderilecek sonuçlarının önizlemesinin sunulmasını tavsiye ediyorlar. Ayrıca, kullanıcıların görüntüde metin algılandığında hassas araç çağrıları için açık onaylarının alınması gerektiğini vurguluyorlar.
Araştırmacılar, “En güçlü savunma, güvenli tasarım kalıplarının ve sistematik savunmaların uygulanmasıdır. Bu şekilde çok-modlu komut enjeksiyonuna karşı etkili önlemler alınabilir,” diyorlar. Bu konuyla ilgili olarak, Haziran ayında yayımlanan, komut enjeksiyon saldırılarına karşı direnç göstermeye yönelik YZ oluşturma tasarım kalıplarını içeren bir makaleye atıfta bulunuyorlar.
Sonuç ve Gelecek Öngörüleri
Geliştirilen bu saldırı yöntemi, kullanıcı verinin güvenliği açısından birçok belirsizliği ve riski beraberinde getirmektedir. Yapay zeka sistemlerinin daha da yaygınlaşmasıyla birlikte bu tür saldırıların artması muhtemeldir. Dolayısıyla, hem kullanıcıların hem de geliştiricilerin bu tehditlere karşı bilinçlenmesi ve sürekli olarak güvenlik önlemlerini güncellemeleri gerekmektedir. Teknoloji geliştikçe, bu tür tehditlerle baş etme yöntemlerinin de evrilmesi kaçınılmaz olacaktır.
