Sarılma yüzü, yapay zeka (AI) ve makine öğrenimi (ML) merkezi, kötü niyetli ML modelleri içerdiği söylenir. Bir siber güvenlik araştırma firması, bu dosyaları indirenlere kötü amaçlı yazılım paketlemek ve dağıtmak için kullanılabilecek kod içeren iki model keşfetti. Araştırmacılara göre, tehdit aktörleri, kötü amaçlı yazılım eklemek için turşu dosya serileştirme olarak adlandırılan zor bir yöntem kullanıyorlar. Araştırmacılar kötü niyetli ML modellerini bildirdiğini iddia ettiler ve sarılma yüzü onları platformdan çıkardı.
Araştırmacılar, sarılma yüzünde kötü niyetli ML modellerini keşfeder
Bir siber güvenlik araştırma firması olan ReversingLabs, keşfedilmiş Kötü niyetli ML modelleri ve tehdit aktörleri tarafından sarılma yüzünde kullanılan yeni istismar ayrıntılarını ayrıntılı olarak açıkladı. Özellikle, çok sayıda geliştirici ve şirket, platformda başkaları tarafından indirilip kullanılabilecek açık kaynaklı AI modellerine ev sahipliği yapıyor.
Firma, istismarın modus operandi’nin turşu dosya serileştirme kullanmayı içerdiğini keşfetti. Farkında olmayan için, ML modelleri paylaşılabilen ve yeniden kullanılabilen çeşitli veri serileştirme formatlarında saklanır. Turşu, ML model verilerini serileştirme ve serileştirme için kullanılan bir python modülüdür. Python kodu, sazelleştirme işlemi sırasında yürütülebildiğinden genellikle güvenli olmayan bir veri biçimi olarak kabul edilir.
Kapalı platformlarda, turşu dosyaları güvenilir kaynaklardan kaynaklanan sınırlı verilere erişebilir. Ancak, Hugging Face açık kaynaklı bir platform olduğundan, bu dosyalar geniş ölçüde kullanılır ve saldırganların kötü amaçlı yazılım yüklerini gizlemek için sistemi kötüye kullanmasına izin verir.
Soruşturma sırasında firma, sarılma yüzünde kötü amaçlı kod içeren iki model buldu. Ancak, bu ML modellerinin platformun güvenlik önlemlerinden kaçtığı ve güvensiz olarak işaretlenmediği söylendi. Araştırmacılar, kötü amaçlı yazılım ekleme tekniğini “nullifai” olarak adlandırdılar, “bir ML modeli için AI topluluğunda mevcut korumalardan kaçınmayı içeriyor”.
Bu modeller, esasen sıkıştırılmış bir turşu dosyası olan Pytorch formatında saklandı. Araştırmacılar, modellerin 7Z formatı kullanılarak sıkıştırıldığını ve Pytorch’un “Torch.oad ()” fonksiyonu kullanılarak yüklenmelerini engellediğini buldular. Bu sıkıştırma aynı zamanda Huging Face’in Picklescan aracının kötü amaçlı yazılımı tespit etmesini engelledi.
Araştırmacılar, bu modellerin bu modelleri indiren şüphesiz geliştiricilerin bilmeden cihazlarına kötü amaçlı yazılımı kuracağı için tehlikeli olabileceğini iddia ettiler. Siber güvenlik firması sorunu 20 Ocak’ta sarılma yüz güvenlik ekibine bildirdi ve modellerin 24 saatten daha kısa bir sürede kaldırıldığını iddia etti. Buna ek olarak, platformun “kırık” turşu dosyalarında bu tür tehditleri daha iyi tanımlamak için Picklescan aracında değişiklikler yaptığı söyleniyor.
