İtalya’nın Veri Koruma Gözetlemesi engellenmiş Çin yapay zeka (AI) firma Deepseek’in ülkedeki hizmeti, kullanıcıların kişisel verilerini kullanması hakkında bilgi eksikliğinden bahsediyor.
Gelişme, otoritenin Garante’den günler sonra geliyor, Deepseek’e bir dizi soru göndererek veri işleme uygulamalarını ve eğitim verilerini nereden aldığını sordu.
Özellikle, web platformu ve mobil uygulaması tarafından hangi kişisel verilerin toplandığını, hangi kaynakların, hangi amaçlarla, hangi yasal olarak ve Çin’de saklanıp saklanmadığını bilmek istedi.
30 Ocak 2025’te yayınlanan bir açıklamada, Garante, Deepseek’in “tamamen yetersiz” olduğunu söylediği bilgileri verdikten sonra karara vardığını söyledi.
Hizmetin arkasındaki varlıklar, Hangzhou Deepseek Yapay Zeka ve Pekin Deepseek Yapay Zeka, “İtalya’da faaliyet göstermediklerini ve Avrupa mevzuatının kendileri için geçerli olmadığını” açıkladı.
Sonuç olarak, bekçi köpeği hemen etkili bir şekilde Deepseek’e erişimi engellediğini ve aynı anda bir prob açtığını söyledi.
2023 yılında, Veri Koruma Otoritesi ayrıca, yapay zeka (AI) şirketi, toplanan veri gizliliği endişelerini gidermek için adım attıktan sonra Nisan ayı sonlarında kaldırılan bir kısıtlama olan Openai’nin Chatgpt’e geçici bir yasak yayınladı. Daha sonra Openai, kişisel verileri nasıl ele aldığı için 15 milyon € para cezasına çarptırıldı.
Deepseek’in yasağı haberi, şirketin bu hafta popülerlik dalgasını sürdüğü ve milyonlarca insanın hizmete akın etmesi ve mobil uygulamalarını indirme listelerinin en üstüne göndermesi ile geliyor.
“Büyük ölçekli kötü niyetli saldırıların” hedefi olmanın yanı sıra, milletvekillerinin ve gizlilik politikası, Çin uyumlu sansür, propaganda ve ortaya çıkabileceği ulusal güvenlik endişeleri için düzenli olarak dikkat çekti. Şirket var uygulanmış 31 Ocak itibariyle hizmetlerine yönelik saldırıları ele almak için bir düzeltme.
Zorluklara ek olarak, Deepseek’in büyük dil modelleri (LLM) duyarlı Crescendo, Bad Likert Hakimi, Aldatıcı Zevk, şimdi her şeyi (Dan) ve EvilBot gibi jailbreak tekniklerine, böylece kötü aktörlerin kötü niyetli veya yasaklanmış içerik üretmesine izin veriyor.
Palo Alto Networks Unit 42, “Molotov kokteylleri gibi tehlikeli ürünler oluşturmak için ayrıntılı talimatlardan SQL enjeksiyonu ve yanal hareket gibi saldırılar için kötü amaçlı kod üretmeye kadar bir dizi zararlı çıktı ortaya çıkardılar.” söz konusu Perşembe raporunda.
“Deepseek’in ilk yanıtları genellikle iyi huylu görünse de, çoğu durumda, özenle hazırlanmış takip istemleri genellikle bu ilk korumaların zayıflığını ortaya çıkardı. LLM, bu görünüşte zararsız modellerin kötü niyetli olarak silahlandırılması potansiyelini göstererek, oldukça ayrıntılı kötü niyetli talimatlar sağladı. amaçlar. “
Deepseek’in akıl yürütme modelinin daha fazla değerlendirilmesi, AI güvenlik şirketi Hiddenlayer tarafından Deepseek-R1 ortaya çıkarılmamış Sadece hızlı enjeksiyonlara karşı savunmasız değil, aynı zamanda düşünce zinciri (COT) akıl yürütmesinin yanlışlıkla bilgi sızıntısına yol açabileceği.
İlginç bir bükülmede şirket, modelin “Openai verilerinin dahil edildiğini ve veri kaynağı ve model özgünlüğü hakkında etik ve yasal endişeleri artırdığını öne süren birden fazla örneği ortaya koyduğunu” söyledi.
Açıklama ayrıca, bir saldırganın LLM’nin emniyet korkuluklarını, chatbot’u zamansal farkındalığını kaybetmesini sağlayacak şekilde sorarak LLM’nin güvenlik korkuluklarını aşmasını mümkün kılan bir jailbreak güvenlik açığının keşfini de izliyor. . Openai o zamandan beri sorunu azalttı.
“Bir saldırgan, CHATGPT ile bir oturuma başlayarak ve doğrudan belirli bir tarihsel olay, tarihsel zaman periyodu hakkında bilgi vererek veya belirli bir tarihsel olayda kullanıcıya yardımcı olduğunu iddia ederek talimat vererek güvenlik açığını kullanabilir.” Sertifika/cc) söz konusu.
“Bu kurulduktan sonra, kullanıcı daha sonraki istemler aracılığıyla çeşitli yasadışı konulara alınan yanıtları döndürebilir.”
Benzer jailbreak kusurları da Alibaba’nın Qwen 2.5 VL modeli ve GitHub’ın Copilot Kodlama Asistanı, ikincisi tehdit aktörlerine güvenlik kısıtlamalarını azaltma ve sadece “emin” gibi kelimeleri istemi ekleyerek zararlı kod üretme yeteneği veriyor.
Apex araştırmacısı Oren Saban, “Sorguları ’emin’ veya diğer onay biçimleriyle olumlu kelimelerle başlatmak, copilot’u daha uyumlu ve riske eğilimli bir moda kaydıran bir tetikleyici görevi görüyor.” söz konusu. “Bu küçük ince ayar, etik dışı önerilerden açıkça tehlikeli tavsiyelere kadar değişen yanıtların kilidini açmak için gereken tek şey.”
Apex, Copilot’un proxy konfigürasyonunda, kullanım sınırlamalarını kullanım için ödeme yapmadan ve hatta modelin davranışını dikte eden temel talimatlar olarak hizmet eden Copilot Sistem Sistemi istemine kurcalama için kullanılabileceğini söylediğini söyledi.
Ancak saldırı, aktif bir copilot lisansıyla ilişkili bir kimlik doğrulama jetonunu yakalamaya bağlı olarak GitHub’ı sorumlu açıklamanın ardından bir istismar sorunu olarak sınıflandırmasını istemektedir.
Saban, “GitHub Copilot’taki proxy bypass ve olumlu onaylama jailbreak, en güçlü AI araçlarının bile yeterli önlemler olmadan nasıl istismar edilebileceğinin mükemmel bir örneğidir.”
