Üretken yapay zekalar heyecan uyandırırsa, büyümeleri risksiz değildir. Büyük dil modelleri (LLM) çevresinde güvenlik konusunda uzmanlaşmış İsrailli bir şirket olan Lasso Security bunu kısa süre önce gösterdi.
O sağlar Aslında yaklaşık 1700’e yakın savunmasız Hugging Face API jetonunu keşfettik; bu jetonlar çevrimiçi bir hizmette kimlik doğrulamasına izin veriyor. Bu tokenlar Meta, Microsoft, Google veya Vmware gibi büyük şirketlere yönelik yazılım tedarik zinciri saldırılarına erişim sağladı.
Savunmasız hesaplar
Lasso Security araştırmacıları, 655’i yazma iznine sahip olmak üzere 700’den fazla kuruluşun hesaplarına erişebildiklerini açıklıyor. 77 vakada ikincisi, deponun tam kontrolünü bile ele geçirmeyi başardı. Şirket ayrıca ayda onbinlerce indirmeye ulaşan 14 veri setini değiştirmek için gerekli hakları elde ettiğini de iddia ediyor. Aynı şekilde 10.000’den fazla özel modeli çalma hakları da vardı.
New York merkezli Fransızlar tarafından kurulan bu mücevher Hugging Face, bir nevi GitHub yapay zekadır. Gerçek bir üretken yapay zeka araç kutusu olan bu açık kaynaklı hizmet, 500.000’den fazla yapay zeka modelini ve 250.000’den fazla veri kümesini barındırıyor.
Üretken modeller için riskler
Milyonlarca indirmenin kaynağındaki hesap kontrolünü izleyen Lasso Security, “mevcut kalıpları manipüle etmenin ve onları potansiyel olarak kötü niyetli varlıklara dönüştürmenin” mümkün olduğunu belirtiyor. Bozuk modellerin enjeksiyonu “uygulamaları için bu modellere güvenen milyonlarca kullanıcıyı etkileyebileceğinden” bu, hedeflenen varlıklar için ciddi bir tehdit oluşturuyor.
ZDNET.fr’nin iletişime geçtiği Hugging Face, ilgili tüm tokenleri iptal ettiğini belirtti. Ayrıca, tokenlerin kod barındırma platformunda yayınlanmamasını tavsiye ettiğini hatırlatarak kullanıcıların sorumluluğunu da üstü kapalı olarak vurguladı. “Geçerli tokenlerin halka açık depolarda yayınlanmasını önlemek için Github gibi harici platformlarla da çalışıyoruz” diye ekliyor.
Bu konuda Lasso Security, Hugging Face’in GitHub’un yaptığı gibi sürekli olarak halka açık API token’larını arayarak bunları iptal etmesini veya kullanıcılarını uyarmasını öneriyor. API belirteci sızıntıları gerçekten de BT güvenliğinde zaten iyi bir şekilde belgelenmiş eski bir sorundur.