Meta’nın Lama Büyük Dil Modeli (LLM) çerçevesinde, başarılı bir şekilde sömürülürse, bir saldırganın Lama-Stack çıkarım sunucusunda keyfi kod yürütmesine izin verebilecek yüksek şiddetli bir güvenlik kusuru açıklanmıştır.
Güvenlik açığı, CVE-2024-5005010.0 üzerinden 6,3 CVSS skoru atandı. Tedarik zinciri güvenlik firması Snyk ise atanmış 9.3 kritik bir ciddiyet derecesi.
Oligo Güvenlik Araştırmacısı Avi Lumelsky, “Meta-Llama’nın etkilenen sürümleri, güvenilmeyen verilerin sazelleştirilmesine karşı savunmasızdır, yani bir saldırganın süzülücü olan kötü niyetli verileri göndererek keyfi kod yürütebileceği anlamına gelir.” söz konusu Bu haftanın başlarında bir analizde.
Bulut güvenlik şirketine göre eksik olan, Lama yığınıMeta’nın kendi lama modellerini kullanma da dahil olmak üzere yapay zeka (AI) uygulama geliştirme için bir dizi API arayüzünü tanımlayan.
Spesifik olarak, referans Python çıkarım API uygulamasında bir uzaktan kod yürütme kusuruyla ilgili olması, Python nesnelerini turşu kullanarak otomatik olarak süzüntü, bir format olan bir format olarak bulundu. riskli kabul edildi Kütüphane kullanılarak güvenilmez veya kötü amaçlı veriler yüklendiğinde keyfi kod yürütme olasılığı nedeniyle.
“Senaryolarda Zeromq soketi ağ üzerinde maruz kalıyor, saldırganlar sokete hazırlanmış kötü niyetli nesneler göndererek bu güvenlik açığını kullanabilir, “Lumelsky.” Recv_pyobj bu nesneleri açacağından, bir saldırgan ana makinede keyfi kod yürütme (RCE) elde edebilir. “
24 Eylül 2024’te sorumlu açıklamanın ardından sorun adil 10 Ekim’de Meta tarafından Sürüm 0.0.41. Ayrıca oldu düzeltilmiş içinde pyzmqZeromq mesajlaşma kütüphanesine erişim sağlayan bir Python kütüphanesi.
Meta tarafından yayınlanan bir danışma söz konusu JSON formatına geçerek soket iletişimi için turşu kullanma ile ilişkili uzaktan kod yürütme riskini düzeltti.
Bu, AI çerçevelerinde ilk kez bu tür seansizasyon güvenlik açıkları keşfedilmemiştir. Ağustos 2024’te Oligo ayrıntılı Tensorflow’un Keras çerçevesinde bir “Gölge Güvenlik Açığı”, CVE-2024-3660 (CVSS puanı: 9.8) Güvenli olmayan mareşal modülünün kullanımı nedeniyle keyfi kod yürütülmesine neden olabilir.
Geliştirme, güvenlik araştırmacısı Benjamin Flesch’in, Openai’nin Chatgpt paletinde, keyfi web sitelerine karşı dağıtılmış bir hizmet reddi (DDOS) saldırısı başlatmak için silahlandırılabilecek yüksek şeffaf bir kusur olduğunu açıkladı.
Sorun, “chatgpt’e HTTP post isteklerinin yanlış işlenmesinin sonucudur.[.]com/backend-api/atıflar “API” API, URL’lerin bir listesini giriş olarak kabul etmek için tasarlanmıştır, ancak ne aynı URL’nin listede birkaç kez görünüp görünmediğini veya girdi olarak iletilebilecek köprü sayısında bir sınır uygularsa kontrol eder .
Bu, kötü bir aktörün tek bir HTTP isteği içinde binlerce köprüyü iletebileceği bir senaryo açar ve Openai’nin tüm bu istekleri, bağlantı sayısını sınırlamaya veya yinelenen talepleri önlemeye çalışmadan kurban sitesine göndermesine neden olur.
Openai’ye iletilen köprü sayısına bağlı olarak, potansiyel DDOS saldırıları için önemli bir amplifikasyon faktörü sağlar ve hedef sitenin kaynaklarını etkili bir şekilde ezmektedir. AI şirketi o zamandan beri sorunu yamaladı.
“Chatgpt paletli, HTTP isteği aracılığıyla ilgisiz bir chatgpt API’sına DDOS’a tetiklenebilir.” söz konusu. Diyerek şöyle devam etti: “Openai yazılımındaki bu kusur, şüphesiz bir kurban web sitesinde bir DDOS saldırısı doğuracak ve Chatgpt prawler’ın çalıştığı birden fazla Microsoft Azure IP adresi aralığı kullanacak.”
Açıklama ayrıca Truffle Security’den, popüler AI ile çalışan kodlama asistanlarının, deneyimsiz programcıların projelerinde güvenlik zayıflıkları getirmeleri için yanlış yönlendirebilecek riskli bir tavsiye olan sert kodlayan API anahtarlarını ve şifrelerini “önerdikleri” bir rapor izliyor.
Güvenlik araştırmacısı Joe Leon, “LLMS, muhtemelen tüm güvensiz kodlama uygulamaları konusunda eğitildikleri için sürdürmeye yardımcı oluyor.” söz konusu.
LLM çerçevelerindeki güvenlik açıkları haberleri, son aşama stealer yükü ve komut ve kontrolü yükleme de dahil olmak üzere, modellerin siber saldırı yaşam döngüsünü güçlendirmek için nasıl istismar edilebileceği konusunda araştırmaları takip ediyor.
“LLM’lerin ortaya koyduğu siber tehditler bir devrim değil, bir evrimdir.” söz konusu. “Orada yeni bir şey yok, LLM’ler siber tehditleri daha büyük ölçekte daha iyi, daha hızlı ve daha doğru hale getiriyor. altta yatan teknoloji ilerledikçe özerklikte. “
Son araştırmalar da gösterişli Yeni bir yöntem Shadowgenes Bu, hesaplama grafiğinden yararlanarak mimarisi, tipi ve ailesi de dahil olmak üzere model şecere tanımlamak için kullanılabilir. Yaklaşım, ShadowLogic olarak adlandırılan daha önce açıklanmış bir saldırı tekniğine dayanmaktadır.
Hacker News ile paylaşılan AI güvenlik firması Hiddenlayer, “Hesaplamalı bir grafik içindeki kötü niyetli saldırıları tespit etmek için kullanılan imzalar, tekrar eden subgraflar olarak adlandırılan tekrarlayan kalıpları izlemek ve tanımlamak için uyarlanabilir ve bir modelin mimari şecere” dedi.
“Kuruluşunuzda kullanılan model aileleri anlamak, AI altyapınız hakkındaki genel farkındalığınızı arttırır ve daha iyi güvenlik duruş yönetimine izin verir.”
