Giriş
Son dönemde yapılan bir araştırma, açık kaynaklı yapay zeka (AI) uygulamalarının yönetilmeyen ve herkese açık bir AI hesaplama altyapısı oluşturduğunu ortaya koydu. Bu durum, siber güvenlik anlamında ciddi tehditler ve yönetişim açığına neden olmaktadır.
Saldırı Nasıl Çalışıyor?
SentinelOne SentinelLABS ve Censys tarafından gerçekleştirilen araştırma, 175,000’den fazla benzersiz Ollama ana bilgisayarının 130 ülkede faaliyet gösterdiğini göstermektedir. Bu sistemler, platform sağlayıcılarının varsayılan olarak uyguladığı güvenlik önlemlerinin dışında çalışmaktadır. Aşağıdaki ülkeler en fazla altyapı varlığına sahip:
- ABD
- Almanya
- Fransa
- Güney Kore
- Hindistan
- Rusya
- Singapur
- Brezilya
- İngiltere
Araştırmacılar, gözlemlenen ana bilgisayarların neredeyse yarısının, dış sistemlerle etkileşim kurma yeteneğine sahip “tool-calling” (araç çağırma) özellikleri ile yapılandırıldığını belirtmiştir. CVE-2023-xxxx ve benzeri yazılımsal zafiyetlerle birlikte gelen bu yetenekler, bu sistemlerin daha geniş bir tehdit modeli oluşturmasını sağlamaktadır.
Etkilenen Sistemler
Ollama, kullanıcılara büyük dil modellerini (LLMs) yerel olarak kolayca indirme, çalıştırma ve yönetme imkanı sunan bir açık kaynak çerçevesidir. Varsayılan olarak 127.0.0.1:11434 adresine bağlı olan bu hizmet, basit bir yapılandırma ile 0.0.0.0 veya genel bir arayüze açılabilir.
Araştırmada ayrıca, kelime tabanlı içeriğin ötesine geçebilen çeşitli modusları destekleyen ana bilgisayarlar tespit edilmiştir. Bu durum, LLMjacking gibi yeni saldırı türlerine yol açabilir; burada kötü niyetli aktörler, kurbanın LLM altyapı kaynaklarını kendi amaçları için kullanabilir.
Çözüm ve Korunma
Ollama tarafından sağlanan araç çağırma yetenekleri, tehdit modelini köklü bir şekilde değiştirmektedir. Gözlemlenen sistemlerde 48’in üzerinde bir oran, API uç noktaları üzerinden bu yeteneklerin varlığını bildirmektedir. Dolayısıyla, bu sistemlerin etkileşime girmesine yol açacak yetersiz kimlik doğrulama ve ağ maruziyeti, en yüksek seviyede bir riski oluşturur. Önerilen koruma önlemleri şu şekildedir:
- Ollama yapılandırmalarını gözden geçirin ve gerekli güncellemeleri yapın.
- Kamuya açık IP adresine maruz kalmamalarını sağlamak için port kapatma işlemleri yapın.
- API uç noktalarınızı güvence altına almak için kullanıcı kimlik doğrulama mekanizmaları ekleyin.
Sonuç
Siber güvenlik profesyonelleri, LLM’lerin uç noktalarda kullanılmasını ve bu altyapının yönetimini ciddiye almalıdır. Tüm sistemlerde olduğu gibi, bu tür yapay zeka uygulamalarında da aynı kimlik doğrulama, izleme ve ağ kontrolleri uygulanmalıdır. Hemen güncellemelerinizi yapın ve olası tehditlere karşı savunmalarınızı kuvvetlendirin.
