Yapay Zeka Çerçevelerinde Kritik Güvenlik Açıkları
Son günlerde, Oligo Security araştırmacıları, Meta, Nvidia, Microsoft ve PyTorch projeleri gibi büyük yapay zeka (AI) çerçevelerinde kritik uzaktan kod yürütme (RCE) açıkları keşfetti. Bu açıklar, kötü niyetli şahısların sistemlere sızmasını tehlikeli derecede kolay hale getiriyor. Araştırmalar, bu güvenlik açıklarının kök nedeninin, sıklıkla göz ardı edilen, ZeroMQ (ZMQ) ve Python’un “pickle” deserializasyonunun güvensiz kullanımı olduğunu ortaya koydu.
ShadowMQ: Güvensizlik Karakteristiği
Oligo, bu güvenlik açıklarını “ShadowMQ” denilen bir model ile ilişkilendirdi. Bu model, güvensiz deserializasyon logiğının bir çok projeye yayıldığı bir durumu tanımlıyor. Meta’nın Llama büyük dil modeli çerçevesindeki (CVE-2024-50050) bir güvenlik açığı, ağızdan ağıza göründüğünden daha fazla etkileyen bir soruna neden oldu. Özellikle, ZMQ’nin recv_pyobj() metodunun, gelen verileri deserializasyon için Python’un “pickle” modülü ile kullanılması, saldırganların rastgele kod çalıştırmasına olanak sağladı.
Yaygın Sistemler ve Kötü Niyetli Enfeksiyon
Oligo, bu tür sorunların Nvidia TensorRT-LLM, Microsoft Sarathi-Serve, Modular Max Server, vLLM ve SGLang gibi diğer çerçevelerde de tekrarlandığını belirtti. Lumelsky’nin açıkladığı gibi, bu sistemlerin hepsinde “pickle deserialization” işlemi üzerinde kimlik doğrulamasız ZMQ TCP bağlantıları üzerinden güvensiz desenler bulunmaktaydı. Bu geçirilen açık, farklı şirketler tarafından sürdürülen projelerde benzer hatalarla birleşerek büyük bir tehdit oluşturuyor.
Açıkların Etkileri ve Çözümler
Keşfedilen güvenlik açıkları, sistemlerin güvenliğini ciddi şekilde tehdit ediyor. Eğer bir yapılandırma ele geçirilirse, bu, hem veri hırsızlığına hem de daha kötü sonuçlara sebep olabilecek kötü amaçlı yazılımların yüklenmesine yol açabilir.
Bu güvenlik açıkları şu belirteçlerle sınıflandırılmıştır:
- CVE-2025-30165 (CVSS skoru: 8.0) – vLLM
- CVE-2025-23254 (CVSS skoru: 8.8) – Nvidia TensorRT-LLM
- CVE-2025-60455 – Modular Max Server
Bazı projeler bu sorunları atlatmaya çalışsalar da, Sarathi-Serve henüz yamanmamış durumda.
Kullanıcılara Öneriler
Bu tür tehlikelerle başa çıkmak için kullanıcılara önerilerde bulunmak kritik öneme sahip. IDE’lerde otomatik çalıştırma özelliklerini devre dışı bırakmak, uzantıları titizlikle incelemek ve güvenilir geliştirici kaynaklarından MCP sunucuları yüklemek önemlidir. Ayrıca, kullanılan API anahtarlarının en düşük izinlerle kurulması ve MCP sunucu kaynak kodunun denetlenmesi tavsiye edilmektedir.
Sonuç
Yapay zeka çerçevelerinde bulunan bu açıklar, sadece teknik bir sorun değil, aynı zamanda siber güvenlik açısından büyük bir endişe kaynağıdır. Kod yeniden kullanımının hızlı ilerlemesiyle birlikte, geliştiricilerin güvenlik önlemlerini ciddiye alarak, siber saldırılara karşı daha dayanıklı sistemler kurması kaçınılmazdır. Aksi takdirde, bu tür güvenlik açıkları daha geniş veri ve sistem tehlikelerine zar zor yol açabilir. Cybersecurity alanında daha dikkatli olunması, bu gelecek tehditlerin önüne geçilmesi açısından kritik bir adımdır.
