Sarılma yüzü, yapay zeka (AI) ve makine öğrenimi (ML) merkezi, kötü niyetli ML modelleri içerdiği söylenir. Bir siber güvenlik araştırma firması, bu dosyaları indirenlere kötü amaçlı yazılım paketlemek ve dağıtmak için kullanılabilecek kod içeren iki model keşfetti. Araştırmacılara göre, tehdit aktörleri, kötü amaçlı yazılım eklemek için turşu dosya serileştirme olarak adlandırılan zor bir yöntem kullanıyorlar. Araştırmacılar kötü niyetli ML modellerini bildirdiğini iddia ettiler ve sarılma yüzü onları platformdan çıkardı.

Araştırmacılar, sarılma yüzünde kötü niyetli ML modellerini keşfeder

Bir siber güvenlik araştırma firması olan ReversingLabs, keşfedilmiş Kötü niyetli ML modelleri ve tehdit aktörleri tarafından sarılma yüzünde kullanılan yeni istismar ayrıntılarını ayrıntılı olarak açıkladı. Özellikle, çok sayıda geliştirici ve şirket, platformda başkaları tarafından indirilip kullanılabilecek açık kaynaklı AI modellerine ev sahipliği yapıyor.

Firma, istismarın modus operandi’nin turşu dosya serileştirme kullanmayı içerdiğini keşfetti. Farkında olmayan için, ML modelleri paylaşılabilen ve yeniden kullanılabilen çeşitli veri serileştirme formatlarında saklanır. Turşu, ML model verilerini serileştirme ve serileştirme için kullanılan bir python modülüdür. Python kodu, sazelleştirme işlemi sırasında yürütülebildiğinden genellikle güvenli olmayan bir veri biçimi olarak kabul edilir.

Kapalı platformlarda, turşu dosyaları güvenilir kaynaklardan kaynaklanan sınırlı verilere erişebilir. Ancak, Hugging Face açık kaynaklı bir platform olduğundan, bu dosyalar geniş ölçüde kullanılır ve saldırganların kötü amaçlı yazılım yüklerini gizlemek için sistemi kötüye kullanmasına izin verir.

Soruşturma sırasında firma, sarılma yüzünde kötü amaçlı kod içeren iki model buldu. Ancak, bu ML modellerinin platformun güvenlik önlemlerinden kaçtığı ve güvensiz olarak işaretlenmediği söylendi. Araştırmacılar, kötü amaçlı yazılım ekleme tekniğini “nullifai” olarak adlandırdılar, “bir ML modeli için AI topluluğunda mevcut korumalardan kaçınmayı içeriyor”.

Bu modeller, esasen sıkıştırılmış bir turşu dosyası olan Pytorch formatında saklandı. Araştırmacılar, modellerin 7Z formatı kullanılarak sıkıştırıldığını ve Pytorch’un “Torch.oad ()” fonksiyonu kullanılarak yüklenmelerini engellediğini buldular. Bu sıkıştırma aynı zamanda Huging Face’in Picklescan aracının kötü amaçlı yazılımı tespit etmesini engelledi.

Araştırmacılar, bu modellerin bu modelleri indiren şüphesiz geliştiricilerin bilmeden cihazlarına kötü amaçlı yazılımı kuracağı için tehlikeli olabileceğini iddia ettiler. Siber güvenlik firması sorunu 20 Ocak’ta sarılma yüz güvenlik ekibine bildirdi ve modellerin 24 saatten daha kısa bir sürede kaldırıldığını iddia etti. Buna ek olarak, platformun “kırık” turşu dosyalarında bu tür tehditleri daha iyi tanımlamak için Picklescan aracında değişiklikler yaptığı söyleniyor.

Snap CEO’su Evan Spiegel, Salı günü çalışanlarına gönderdiği bir notta, şirketin düşük performans gösteren reklamcılık işini Artırılmış Gerçeklik (AR) üzerine yoğunlaştırıp çeşitlendirmeye odaklanacağını bildirdi.

Bu duyuru, Snapchat sahibi için zorlu bir dönemin ortasında geldi; şirket, reklam geliri için Instagram’ın ana şirketi Meta Platforms ve Bytedance’in TikTok’u gibi büyük sosyal medya oyuncularıyla rekabet ediyor.

Spiegel notta, “Geçtiğimiz yıl işimizde kaydettiğimiz tüm ilerlemeye rağmen, hisse senedi fiyat performansımızın genel pazarın gerisinde kalmasının nedenini merak ediyor olabilirsiniz. Cevap basit: reklam işimiz rakiplerimizden daha yavaş büyüyor,” dedi.

LSEG verilerine göre, Snap Ağustos ayının başında reklam harcamalarındaki düşüşü gerekçe göstererek cari çeyrek için zayıf bir tahminde bulunmuş ve 2024 mali yılında 5,34 milyar dolar (yaklaşık 44.837 crore) gelir bildirmesi bekleniyor.

Snap’in hisseleri bu yıl şu ana kadar yaklaşık yüzde 48 oranında düştü.

Şirket ayrıca Makine Öğrenmesi (ML) ve otomasyon destekli yeni reklam yerleşimlerini başlatarak pazar stratejisini de yenileyecek.

Meta gibi AR ve akıllı gözlükler de geliştiriyor.

Notta, “İnsanların bilgisayarla, dünyayla ve birbirleriyle tamamen yeni yollarla etkileşime girmesini sağlayacak AR gözlükleri üretmeye yatırım yapıyoruz” denildi.

Snap, Haziran ayında kullanıcıların telefon kameralarını kullanarak kendilerini filme alırken daha gerçekçi efektler uygulayabilmelerini sağlayan üretken yapay zeka araçlarını kullanıma sundu.

© Thomson Reuters 2024

(Bu hikaye NDTV personeli tarafından düzenlenmemiştir ve sendikasyonlu bir yayından otomatik olarak oluşturulmuştur.)

Washington DC olmuştur Yıllardır çabalayan LLM’lerin ve AI modellerinin hayatımızın her yönünü güçlendirebileceği bir dünyada yolumuzu bulmak için yapay zeka uzmanları bulmak. Bu hafta, İç Güvenlik Bakanlığı’nın bilgisayar korsanlığı karşıtı kolu olan Siber Güvenlik ve Altyapı Güvenlik Ajansı (CISA), ilk şefini atadığını duyurdu.

CISA, Perşembe günü yaptığı duyuruda Lisa Einstein’ı ilk yapay zeka başkanı olarak atadı paylaştı Axios ile. Einstein, Axios’tan geliyor. düşünce kuruluşu dünyası ve oldu Zaten tavsiyede bulunuyorum CISA, AI tehditleriyle nasıl başa çıkılacağı konusunda onlara yardımcı oldu AI siber güvenlik araçlarını test edin Beyaz Saray için.

Ayrıca dört saatlik bir programda da çalıştı masa üstü oyunu Microsoft ve Nvidia gibi hükümet ve işletmelerden 50 farklı temsilciyi bir araya getiren bir oyun. Oyunun amacı, yapay zeka güvenlik olaylarını bir ekip olarak ele almaktı.

“Güvenlik, emniyet ve güvenilirliği önceliklendirmek için birlikte çalışırsak, yalnızca AI’nın faydalarını elde edebilir ve başarısızlığından veya kötüye kullanımından kaynaklanan zararlardan kaçınabiliriz. Bu önemli zorluğun üstesinden gelmek için özverili ve yetenekli CISA ekibiyle birlikte hizmet etmekten onur duyuyorum” dedi Einstein, atamasıyla ilgili yaptığı kamu açıklamasında.

Yapay zeka ve oluşturduğu tehditler DC’deki herkesin aklında. Başkan Biden, bu tehdit hakkında ciddileştikten sonra Görevimiz Tehlike: Tahmini HesaplamaAncak bilgisayarlarla ciddi şekilde çalışan her hükümet binası, Biden Tom Cruise’u izlemeye oturmadan çok önce yapay zeka ve makine öğreniminin tehdidi konusunda endişeleniyordu.

CISA direktörü Jen Easterly, yapay zekayı nükleer silahlara benzetti. Aradaki büyük fark, nükleer silah yapan insanların sınırlı bir kısıtlama göstermiş olmalarıydı. “Bunu düşündüğünüzde, geçen yüzyılın en güçlü teknolojisi tartışmasız nükleer silahlardı. Bu yüzyılın en güçlü teknolojisi yapay zekadır,” dedi Nisan 2023’te Ulusal Basın Vakfı’nda yaptığı bir konuşmada.

“Nükleer silahlar, onları güvende tutma teşvikine sahip hükümetler tarafından inşa edildi. Yapay zeka inşa edenlerin teşviki tamamen kârın maksimizasyonu ve iş rekabeti ile ilgilidir.”

Apple kısa süre önce şirketin Apple Silicon bilgisayarları için makine öğrenimi (ML) çerçevesini MLX – veya ML Explore – yayınladı. Şirketin en yeni çerçevesi, Apple’ın M1, M2 ve M3 serisi çipleriyle desteklenen bilgisayarlarda ML modellerini eğitme ve çalıştırma sürecini basitleştirmek için özel olarak tasarlandı. Şirket, MLX’in birleşik bir bellek modeline sahip olduğunu söylüyor. Apple ayrıca, makine öğrenimi meraklılarının çerçeveyi dizüstü bilgisayarlarında veya bilgisayarlarında çalıştırmasına olanak tanıyan açık kaynak çerçevenin kullanımını da gösterdi.

Buna göre Apple tarafından paylaşılan ayrıntılar Kod barındırma platformu GitHub’da, MLX çerçevesinin bir C++ API’sinin yanı sıra Python API’si de vardır. Dizi, bilimsel hesaplamaya yönelik Python kütüphanesi. Apple’a göre kullanıcılar, bilgisayarlarında daha karmaşık modeller oluşturup çalıştırmalarına olanak tanıyan daha üst düzey paketlerden de yararlanabiliyor.

MLX, ML modellerini bilgisayarda eğitme ve çalıştırma sürecini basitleştirir; geliştiriciler daha önce modellerini dönüştürmek ve optimize etmek için bir çevirmene güvenmek zorunda kalıyordu ( CoreML). Bunun yerini artık Apple Silicon bilgisayarlarını çalıştıran kullanıcıların modellerini doğrudan kendi cihazlarında eğitmelerine ve çalıştırmalarına olanak tanıyan MLX aldı.

Apple, MLX’te Stable Diffusion tarafından oluşturulan MLX metnini içeren büyük kırmızı bir işaretin bu görselini paylaştı
Fotoğraf Kredisi: GitHub/Apple

Apple, MLX’in tasarımının bugün kullanılan diğer popüler çerçevelere uygun olduğunu söylüyor. Dizi Ateşi, JaxNumPy ve PyTorch. Firma, çerçevesinin birleşik bellek modelini öne çıkardı: MLX dizileri paylaşılan bellekte yaşıyor ve bunlar üzerinde yapılan işlemler, veri kopyaları oluşturmaya gerek kalmadan herhangi bir cihaz türünde (şu anda Apple CPU ve GPU’yu destekliyor) gerçekleştirilebiliyor.

Şirket ayrıca MLX’in uygulamalı örneklerini de paylaştı ve aşağıdaki görevleri gerçekleştirdi: Kararlı Difüzyon kullanarak görüntü oluşturma Apple Silicon donanımında. Bir dizi görüntü oluştururken Apple, MLX’in 6,8,12 ve 16’lık toplu iş boyutları için PyTorch’tan daha hızlı olduğunu ve ikincisinden yüzde 40’a kadar daha yüksek verim sağladığını söylüyor.

Testler, şirketin bugüne kadarki en hızlı işlemcisi olan M2 Ultra yongasıyla desteklenen bir Mac üzerinde gerçekleştirildi; şirkete göre MLX 90 saniyede 16 görüntü oluşturma kapasitesine sahipken, PyTorch’un aynı görevi gerçekleştirmesi yaklaşık 120 saniye sürecek.

MLX’in diğer örnekleri arasında Meta’nın açık kaynağını kullanarak metin oluşturma yer alıyor LLaMA dil modeliaynı zamanda Mistral büyük dil modeli. Yapay zeka ve makine öğrenimi araştırmacıları OpenAI’yi de kullanabilir açık kaynak Whisper aracı Konuşma tanıma modellerini bilgisayarlarında MLX kullanarak çalıştırmak için.

Apple’ın MLX çerçevesinin piyasaya sürülmesi, şirketin donanımında ML araştırma ve geliştirmesini kolaylaştırmaya yardımcı olabilir ve sonuçta geliştiricilerin, kullanıcının bilgisayarında verimli bir şekilde çalışan cihaz içi ML özellikleri sunan uygulamalar ve hizmetler için kullanılabilecek daha iyi araçlar getirmesine olanak tanıyabilir.

---