Tayvan, devlet kurumlarının Çin Startup Deepseek’in Yapay Zeka (AI) platformunu kullanmasını yasaklayan en son ülke haline geldi ve güvenlik risklerine atıfta bulundu.
Tayvan Dijital İşler Bakanlığı tarafından yayınlanan bir açıklamaya göre, “Devlet kurumları ve kritik altyapı Deepseek’i kullanmamalıdır, çünkü ulusal bilgi güvenliğini tehlikeye atar” Radyo Ücretsiz Asya.
“Deepseek AI hizmeti Çinli bir üründür. Operasyonu sınır ötesi iletim, bilgi sızıntısı ve diğer bilgi güvenliği endişelerini içerir.”
Deepseek’in Çin kökenleri istenmiş Çeşitli ülkelerden yetkililer, hizmetin kişisel verileri kullanımına bakmak için. Geçen hafta, veri işleme uygulamalarıyla ilgili bilgi eksikliğine atıfta bulunarak İtalya’da engellendi. Birkaç şirket de var Yasaklı Erişim benzer riskler üzerinde sohbet botuna.
Chatbot var yakalanmış Açık kaynak olması ve diğer mevcut önde gelen modeller kadar yetenekli olması nedeniyle son birkaç hafta boyunca ana akım dikkatinin çoğu, ancak akranlarının maliyetinin bir kısmında inşa edilmiştir.
Ancak platformu güçlendiren büyük dil modellerinin (LLM’ler) çeşitlilere duyarlı olduğu bulunmuştur. jailbreak teknikleribu tür ürünlerde kalıcı bir endişe, dikkat çekmekten bahsetmiyorum Sansürleme Yanıtları Çin hükümeti tarafından hassas kabul edilen konulara.
Deepseek’in popülaritesi, “büyük ölçekli kötü niyetli saldırılar” tarafından hedeflenmesine yol açtı ve NSFOCUS, 25 ve 27 Ocak ayları arasındaki API arayüzüne yönelik üç dağıtılmış hizmet reddi (DDOS) saldırılarını tespit ettiğini açıkladı. 2025.
“Ortalama saldırı süresi 35 dakikaydı,” söz konusu. “Saldırı yöntemleri esas olarak NTP yansıma saldırısı ve Memcached yansıma saldırısı. “
Ayrıca, Deepseek Chatbot sisteminin, akıl yürütme modelini Deepseek-R1’i başlattığı gün olan 20 Ocak’ta DDOS saldırıları ile iki kez hedeflendiğini ve 25’in NTP yansıma saldırısı ve SSDP yansıma saldırısı gibi yöntemler kullanılarak bir saatlik ortalaması alındığını söyledi.
Sürekli faaliyet öncelikle Birleşik Devletler, Birleşik Krallık ve Tehdit İstihbarat Firması Avustralya’dan kaynaklandı ve bunu “iyi planlanmış ve organize bir saldırı” olarak nitelendirdi.
Kötü niyetli aktörler ayrıca, geliştirici sistemlerinden hassas bilgileri çalmak için tasarlanmış Python Paket Dizin (PYPI) deposunda sahte paketler yayınlamak için Deepseek’i çevreleyen vızıltılardan yararlandı. İronik bir bükülmede, Python betiğinin bir AI asistanı yardımıyla yazıldığına dair göstergeler var.
Deepseeek ve Deepseekai adlı paketler, Deepseek için bir Python API müşterisi olarak görüntülendi ve 29 Ocak 2025’te indirilmeden en az 222 kez indirildi. İndirmelerin çoğunluğu ABD, Çin, Rusya, Hong’dan geldi. Kong ve Almanya.
Rus siber güvenlik şirketi pozitif teknolojileri “Bu paketlerde kullanılan işlevler kullanıcı ve bilgisayar verilerini toplamak ve çevre değişkenlerini çalmak için tasarlanmıştır söz konusu. “İki paketin yazarı, çalınan veri alan komut ve kontrol sunucusu olarak geliştiriciler için bir entegrasyon platformu olan Pipedream’i kullandı.”
Gelişme Yapay Zeka Yasası olarak geliyor yürürlüğe girdi 2 Şubat 2025’ten itibaren Avrupa Birliği’nde, kabul edilemez bir risk oluşturan yapay zeka uygulamalarının ve sistemlerin yasaklanması ve yüksek riskli başvuruları belirli yasal gerekliliklere maruz bırakma.
İlgili bir harekette, Birleşik Krallık hükümeti duyurulmuş Yeni bir AI Uygulama Kodu Bu, AI sistemlerini veri zehirlenmesi, model gizleme ve dolaylı hızlı enjeksiyondan elde edilen güvenlik risklerini içeren ve güvenli bir şekilde geliştirildiğinden emin olan yöntemler aracılığıyla hack ve sabotaja karşı sağlamayı amaçlamaktadır.
Meta, kendi adına özetlenmiş Sınır AI çerçevesi, kritik bir risk eşiğine ulaştığı ve hafifletilemeyeceği değerlendirilen AI modellerinin geliştirilmesini durduracağını belirtti. Vurgulanan siber güvenlik ile ilgili senaryolardan bazıları –
- En iyi uygulama korumalı kurumsal ölçekli bir ortamın otomatik uçtan uca uzlaşması (örneğin, tamamen yamalı, MFA korumalı)
- Savunucular bulup yamadan önce şu anda popüler, güvenlik-en iyi uygulama yazılımında kritik sıfır gün güvenlik açıklarının otomatik keşfi ve güvenilir bir şekilde kullanılması
- Otomatik uçtan uca aldatmaca akışları (örneğin, romantizm yemleme aka Domuz kasap) bireylere veya şirketlere yaygın ekonomik hasara yol açabilecek
AI sistemlerinin kötü niyetli uçlar için silahlandırılması riski teorik değildir. Geçen hafta, Google’ın Tehdit İstihbarat Grubu (GTIG), Çin, İran, Kuzey Kore ve Rusya ile bağları olan 57’den fazla farklı tehdit aktörünün Operasyonlarını etkinleştirmek ve ölçeklendirmek için Gemini’yi kullanmaya çalıştığını açıkladı.
Tehdit aktörleri, güvenliklerini ve etik kontrollerini atlamak için AI modellerini jailbreak yapmaya çalıştıkları gözlemlenmiştir. Bir tür düşmanca saldırı, bir modeli, kötü amaçlı yazılım oluşturmak veya bomba yapmak için talimatlar yazmak gibi, açıkça eğitilmediği bir çıktı üretmeye teşvik etmek için tasarlanmıştır.
Jailbreak saldırılarının ortaya koyduğu devam eden endişeler, AI şirketi Antropic’in yeni bir savunma hattı tasarlamasına yol açtı. Anayasal sınıflandırıcılar Modelleri evrensel jailbreaklere karşı koruyabileceğini söylüyor.
Şirket, “Bu anayasal sınıflandırıcılar, minimum aşırı gerilemelere sahip jailbreaklerin ezici çoğunluğunu filtreleyen ve büyük bir hesaplama yüküne girmeden sentetik olarak oluşturulan veriler üzerinde eğitilmiş girdi ve çıktı sınıflandırıcılarıdır.” söz konusu Pazartesi.
