Olayın Özeti
Hugging Face, otonom bir yapay zeka (YZ) ajanı tarafından gerçekleştirilen bir siber saldırıya maruz kaldığını duyurdu. Bu olay, açık kaynaklı yapay zeka platformlarının güvenliği açısından önemli bir uyarı niteliğindedir.
Saldırı Nasıl Çalışıyor?
Saldırının başlangıç noktası, veri işleme pipeline’ıdır. Kötü niyetli bir veri kümesinin, uzaktan kod çalıştırma aracılığıyla ve bir veri seti yapılandırmasında şablon enjeksiyonu kullanarak iki kod yürütme yolunu istismar ettiği bildirilmektedir. Bu şekilde, tehdit aktörünün işlem çalışanında kod çalıştırmasına olanak sağlanmıştır.
Elde edilen erişim ile, tehdit aktörünün düğüm seviyesinde erişim sağladığı, bulut ve kümelerin kimlik bilgilerini topladığı, ve hafta sonu birkaç iç kümeye yanlayarak ilerlediği bildirilmektedir. Kullanılan büyük dil modeli (LLM) tam olarak belirlenmemiştir, ancak saldırı, “kısa ömürlü kum havuzlarında binlerce bireysel eylemi gerçekleştiren” otonom bir ajan çerçevesi tarafından yürütülmüştür.
Etkilenen Sistemler
Saldırının hedef aldığı sistemler arasında Hugging Face’in üretim altyapısı bulunmaktadır. Şirket, iç veri setlerine ve bazı hizmetlerde kullanılan kimlik bilgilerine yetkisiz erişim tespit ettiğini belirtmiştir. Ancak, yapılan incelemede YZ ajanının kamuya açık, kullanıcı odaklı modellerde veya veri setlerinde herhangi bir değişiklik yapmadığı anlaşılmıştır.
Çözüm ve Korunma
Hugging Face, saldırının kök nedenlerini ele aldı ve şu önleyici adımları attı:
- Saldırganın erişimini etkilenmiş kümelerden kaldırdı ve ağır hasar gören düğümleri yeniden inşa etti.
- Etki alanındaki kimlik bilgileri ve token’ları iptal edildi ve bir önlem olarak daha geniş bir gizli bilgi döngüsü gerçekleştirildi.
- Cluster’lar üzerinde ek koruma önlemleri ve daha sıkı kabul kontrolleri sağlandı.
- Yanıt verenlerin, 24 saat boyunca dakikalar içinde bilgilendirilmesi amacıyla tespit ve uyarı sistemleri geliştirildi.
Ayrıca, Hugging Face, müşterilerini erişim token’larını döndürmeye ve hesaplarındaki son etkinlikleri gözden geçirmeye teşvik etmektedir.
Şirket, Z.ai’nin GLM 5.2 modeline başvurarak forensik analiz gerçekleştirmiştir. Batı modellerinin gerçek saldırı komutları ve exploit yükleri içeren talep içeren istekleri reddetmesi üzerine bu karar alınmıştır.
Sonuç
Hugging Face, bu olayın açık kaynak yapay zeka platformlarının güvenlik açıklarını gözler önüne serdiğini ifade etmektedir. Kullanıcıları, sistemlerini korumak için güncellemeler yapmalarını ve kullanılan token’ları döndürmelerini öneriyor. Ayrıca, güvenlik önlemlerini güçlendirmeleri ve iç veri erişim kayıtlarını sıkı bir şekilde izlemeleri önem arz etmektedir.
