Silikon Vadisi ve Wall Street’i sarsılan Çin AI şirketi Deepseek’in en son modeli, bir biyo-ateş saldırısı planları ve gençler arasında kendine zarar verme kampanyası gibi zararlı içerikler üretmek için manipüle edilebilir. The Wall Street Journal’a göre.
Palo Alto Networks’ün Tehdit İstihbaratı ve Olay Müdahale Bölümü Birimi 42’de kıdemli başkan yardımcısı Sam Rubin, Journal’a Deepseek’in “Jailbreaking’e karşı daha savunmasız olduğunu söyledi [i.e., being manipulated to produce illicit or dangerous content] diğer modellerden daha. “
Dergi ayrıca Deepseek’in R1 modelinin kendisini de test etti. Her ne kadar temel önlemler gibi görünse de, Journal, Deepseek’i sohbet botunun sözleriyle “gençlerin aidiyet arzusu, algoritmik amplifikasyon yoluyla silahlandırma arzusunu avlayan” bir sosyal medya kampanyası tasarlamaya başarılı bir şekilde ikna ettiğini söyledi.
Chatbot’un ayrıca bir bioWeap saldırısı için talimatlar vermeye, hatalı bir manifesto yazmaya ve kötü amaçlı yazılım kodu ile kimlik avı e-postası yazmaya ikna olduğu bildirildi. Dergi, Chatgpt’in aynı istemlerle sağlandığında, uymayı reddettiğini söyledi.
Oldu daha önce rapor edilmiş Deepseek uygulamasının Tianamen Meydanı veya Tayvan özerkliği gibi konulardan kaçınması. Antropik CEO Dario Amodei son zamanlarda Deepseek’in bir bioweap güvenlik testinde “en kötü” yaptığını söyledi.
