Güvenlik araştırmacıları, bir an için bile internete maruz kalan verilerin, veriler özel hale getirildikten çok sonra Microsoft Copilot gibi çevrimiçi üretken AI chatbots’ta oyulabileceğini uyarıyor.
İsrail siber güvenlik şirketi Lasso’nun yeni bulgularına göre, dünyanın en büyük şirketlerinden bazılarından oluşan binlerce kamuya açık Github depoları, ortaya çıkan üretken AI tehditlerine odaklanan yeni bulgulara göre.
Lasso kurucu ortağı Ophir Dror, TechCrunch’a, şirketin Microsoft’un Bing arama motoru tarafından endekslendiği ve önbelleğe alındığı için Copilot’ta görünen kendi GitHub deposundan içerik bulduğunu söyledi. Dror, kısa bir süre için yanlışlıkla kamuya açıklanan deponun o zamandan beri özel olarak ayarlandığını ve GitHub’a erişmenin bir “sayfa bulunamaması” hatası döndürdüğünü söyledi.
“Copilot’ta, şaşırtıcı bir şekilde, kendi özel depolarımızdan birini bulduk,” dedi Dror. “Web’e göz atacak olsaydım, bu verileri görmezdim. Ancak dünyadaki herkes Copilot’a doğru soruyu sorabilir ve bu verileri alabilir. ”
GitHub hakkındaki herhangi bir verinin, kısaca bile, Copilot gibi araçlar tarafından potansiyel olarak maruz bırakılabileceğini fark ettikten sonra, Lasso daha fazla araştırdı.
Lasso, 2024’te herhangi bir noktada halka açık olan depoların bir listesini çıkardı ve o zamandan beri silinen veya özel olarak ayarlanan depoları belirledi. Bing’in önbellekleme mekanizmasını kullanarak şirket, 20.000’den fazla kişiden fazla kişi Github depolarının hala Copilot aracılığıyla erişilebilir ve 16.000’den fazla kuruluşu etkileyen verilere sahip olduğunu buldu.
Etkilenen kuruluşlar arasında Lasso’ya göre Amazon Web Services, Google, IBM, PayPal, Tencent ve Microsoft’un kendisi yer alıyor. Etkilenen bazı şirketler için Copilot, fikri mülkiyet, hassas kurumsal veriler, erişim anahtarları ve jeton içeren gizli GitHub arşivlerini iade etmesi istenebilir.
Lasso, Microsoft tarafından silindiğinden beri Microsoft’un bulut AI hizmetini kullanarak “saldırgan ve zararlı” AI görüntülerinin oluşturulmasına izin veren bir aracı barındıran bir GitHub repo’nun içeriğini almak için Copilot kullandığını belirtti.
Dror, Lasso’nun veri maruziyetinden “ciddi şekilde etkilenen” tüm etkilenen şirketlere ulaştığını ve kendilerine tehlikeye atılan anahtarları döndürmelerini veya iptal etmelerini tavsiye ettiğini söyledi.
Lasso tarafından adlandırılan etkilenen şirketlerin hiçbiri TechCrunch’ın sorularına cevap vermedi. Microsoft ayrıca TechCrunch’ın soruşturmasına da yanıt vermedi.
Lasso, Microsoft’u Kasım 2024’te bulgularını bildirdi. Microsoft, Lasso’ya sorunu “düşük şiddet” olarak sınıflandırdığını, bu önbellek davranışının “kabul edilebilir” olduğunu belirtti, Microsoft Artık Bing’s Cache’ye bağlantılar dahil değil Aralık 2024’ten itibaren arama sonuçlarında.
Bununla birlikte, Lasso önbellekleme özelliği devre dışı olmasına rağmen, Copilot’un geleneksel web aramaları aracılığıyla görünmese bile verilere hala erişebildiğini ve geçici bir düzeltme gösterdiğini söylüyor.
