Microsoft Copilot’daki Güvenlik İhlalleri Üzerine Tartışmalar
Microsoft, güvenlik mühendisi John Russell tarafından bildirilen çoklu prompt enjeksiyonu ve sandbox ile ilgili sorunların güvenlik açıkları teşkil etmediği iddialarına karşı sert bir duruş sergiledi. Bu durum, satıcılar ve araştırmacılar arasındaki riski tanımlama konusundaki farkların arttığını gözler önüne seriyor.
Yapay Zeka Güvenlik Açıkları veya Bilinen Sınırlamalar mı?
Geçtiğimiz ay Microsoft Copilot’da dört güvenlik açığı keşfettiğini belirten Russell, daha sonra Microsoft’un bu durumları hizmet kapsamına girmediği gerekçesiyle kapattığını ifade etti. Microsoft’un bu konudaki görüşü, ele alınan sorunların güvenlik açığı tanımlamasıyla uyuşmadığı yönünde.
Russell tarafından bildirilen bazı sorunlar şunlardır:
- Dosya yükleme kısıtlamalarının aşılması: Microsoft Copilot genellikle “riskli” dosya formatlarının yüklenmesine izin vermez. Ancak kullanıcılar bu dosyaları base64’e dönüştürerek bu kısıtlamayı aşabilmektedir.
Russell, bu durumun, dosya türü kontrollerinden geçtikten sonra içeriklerin tekrar oluşturulup analiz edilmesine olanak tanıdığını açıklıyor. Güvenlik topluluğunda bu konu üzerinde hemen bir tartışma başladı; profesyoneller farklı görüşler sundu.
Güvenlik Uzmanlarının Görüşleri
Tecrübeli siber güvenlik uzmanı Raj Marathe, Russell’ın gözlemlerinin geçerliliğini kabul etti. Geçtiğimiz yıl Copilot’a yüklenen bir Word belgesindeki prompt enjeksiyonunun etkisini deneyimlediğini belirtti. Ayrıca, bu durumun görünmez veya açıkça ifade edilmeden belgenin iç kısmında gizli bir şekilde yer aldığını vurguladı.
Ancak bazı güvenlik araştırmacıları, sistem prompt’unun açıklanmasını bir güvenlik açığı olarak değerlendirip değerlendiremeyeceklerine dair şüphelerini dile getirdiler. Cameron Criswell, bu tür durumların genellikle bilinen yollarla gerçekleştiğini savundu ve “Kullanımın faydasını ortadan kaldırmadan tamamen elemenin zor olduğunu” belirtti.
Russell, diğer AI yardımları olan Anthropic Claude’un, kendisinin Copilot’da bulduğu yöntemleri “reddetmekte” herhangi bir sorun yaşamadığını belirterek, bu sorunun yetersiz giriş doğrulamasından kaynaklandığını savundu.
Microsoft’un Yapay Zeka Güvenlik Açıkları Üzerindeki Tutumu
Microsoft, yapay zeka açıklarıyla ilgili tüm bildirimleri, kamuya açık olan hata barı ile değerlendiriyor. Bir şirket sözcüsü, raporların incelendiğini ancak şirketin güvenlik açığı hizmetlilik kriterlerini karşılamadığını belirtmiştir.
Microsoft’un yaklaşımında, bir güvenlik sınırının aşılmadığı veya kullanıcıların çalışma ortamına sınırlı etki eden durumların “kapsam dışı” olarak değerlendirildiği ifade edildi.
Sonuç olarak, bu tartışma tanımlar ve perspektifler üzerinde yoğunlaşıyor. Russell, prompt enjeksiyonu ve sandbox davranışlarının önemli bir riski açığa çıkardığını savunurken, Microsoft bunları belirgin bir güvenlik sınırı geçilmedikçe beklenen sınırlamalar olarak değerlendiriyor.
Okuyucuya Tavsiyeler
Kullanıcılar, yapay zeka sistemlerinin güvenlik riskleri ve sınırlamaları üzerine düşünmeli ve bilgilendirilmeli. Özellikle, bu tür sistemleri kullanan kullanıcıların:
- Güncellemeleri düzenli olarak takip etmeleri,
- Riski azaltmak adına sistem ayarlarını gözden geçirmeleri,
- Güvenilmeyen dosya yüklemelerinden kaçınmaları,
- Etkin güvenlik önlemlerini uygulamaları ve gerekli yerlerde port kapatmaları önerilir.
Bu tür dikkatler, kullanıcıların sistemlerini daha güvenli hale getirmelerine yardımcı olacaktır.
