El vigilante de la protecci\u00f3n de datos de Italia tiene obstruido<\/a> El servicio de la firma de inteligencia artificial china (IA) Deepseek dentro del pa\u00eds, citando una falta de informaci\u00f3n sobre el uso de los datos personales de los usuarios.<\/p>\n El desarrollo se produce d\u00edas despu\u00e9s de que la autoridad, el Garante, envi\u00f3 una serie de preguntas a Deepseek, preguntando sobre sus pr\u00e1cticas de manejo de datos y d\u00f3nde obtuvo sus datos de capacitaci\u00f3n.<\/p>\n En particular, quer\u00eda saber qu\u00e9 datos personales recopilan su plataforma web y aplicaci\u00f3n m\u00f3vil, de qu\u00e9 fuentes, para qu\u00e9 fines, sobre qu\u00e9 base legal y si se almacena en China.<\/p>\n En un comunicado emitido el 30 de enero de 2025, el Garante dijo que lleg\u00f3 a la decisi\u00f3n despu\u00e9s de que Deepseek proporcion\u00f3 informaci\u00f3n que dijo que era “completamente insuficiente”.<\/p>\n Las entidades detr\u00e1s del servicio, Hangzhou Deepseek Intelligence Artificial y Beijing Deepseek Intelligence, “han declarado que no operan en Italia y que la legislaci\u00f3n europea no se aplica a ellos”, agreg\u00f3.<\/p>\n Como resultado, el perro guardi\u00e1n dijo que est\u00e1 bloqueando el acceso a Deepseek con efecto inmediato, y que est\u00e1 abriendo simult\u00e1neamente una sonda.<\/p>\n En 2023, la Autoridad de Protecci\u00f3n de Datos tambi\u00e9n emiti\u00f3 una prohibici\u00f3n temporal de ChatGPT de Opengai, una restricci\u00f3n que se levant\u00f3 a fines de abril despu\u00e9s de que la compa\u00f1\u00eda de inteligencia artificial (IA) intervino para abordar las preocupaciones de privacidad de datos planteadas. Posteriormente, Operai recibi\u00f3 una multa de \u20ac 15 millones por c\u00f3mo manejaba los datos personales.<\/p>\n La noticia de la prohibici\u00f3n de Deepseek se produce cuando la compa\u00f1\u00eda ha estado montando la ola de popularidad esta semana, con millones de personas acudiendo en masa al servicio y enviando sus aplicaciones m\u00f3viles a la parte superior de las listas de descarga.<\/p>\n Adem\u00e1s de convertirse en el objetivo de “ataques maliciosos a gran escala”, ha llamado la atenci\u00f3n de los legisladores y los clientes habituales por su pol\u00edtica de privacidad, la censura alineada por China, la propaganda y las preocupaciones de seguridad nacional que puede plantear. La empresa tiene implementado<\/a> Una soluci\u00f3n al 31 de enero para abordar los ataques a sus servicios.<\/p>\n Adem\u00e1s de los desaf\u00edos, se ha encontrado que los modelos de idiomas grandes de Deepseek (LLM) son susceptible<\/a> para jailbreak t\u00e9cnicas como Crescendo, Bad Likert Judge, Deceptive Delight, Haga cualquier cosa ahora (Dan) y Evilbot, lo que permite a los malos actores generar contenido malicioso o prohibido.<\/p>\n “Ellos provocaron una variedad de resultados da\u00f1inos, desde instrucciones detalladas para crear elementos peligrosos como c\u00f3cteles Molotov hasta generar c\u00f3digo malicioso para ataques como inyecci\u00f3n SQL y movimiento lateral”, la Unidad de Palo Alto Networks Unidad 42 dicho<\/a> en un informe del jueves.<\/p>\n “Si bien las respuestas iniciales de Deepseek a menudo parec\u00edan benignas, en muchos casos, las indicaciones de seguimiento cuidadosamente elaboradas a menudo expusieron la debilidad de estas salvaguardas iniciales. El LLM proporcion\u00f3 f\u00e1cilmente instrucciones maliciosas altamente detalladas, lo que demuestra el potencial para que estos modelos aparentemente inocuos sean armados para maliciosos prop\u00f3sitos “.<\/p>\n Evaluaci\u00f3n adicional del modelo de razonamiento de Deepseek, Deepseek-R1, de la compa\u00f1\u00eda de seguridad de IA Hiddenlayer, tiene descubierto<\/a> que no solo es vulnerable a las inyecciones r\u00e1pidas, sino tambi\u00e9n que su razonamiento de la cadena de pensamiento (COT) puede conducir a una fuga de informaci\u00f3n inadvertida.<\/p>\n En un giro interesante, la compa\u00f1\u00eda dijo que el modelo tambi\u00e9n “surgi\u00f3 m\u00faltiples instancias que sugieren que se incorporaron datos de Operai, lo que plante\u00f3 preocupaciones \u00e9ticas y legales sobre el abastecimiento de datos y la originalidad del modelo”.<\/p>\n La divulgaci\u00f3n tambi\u00e9n sigue el descubrimiento de una vulnerabilidad de jailbreak en el bandido de tiempo de tiempo apagado de OpenAi Chatgpt-4o que hace posible que un atacante sorte las barandillas de seguridad del LLM al provocar el chatbot con preguntas de una manera que hace que pierda su sensaci\u00f3n temporal. . Operai ha mitigado el problema.<\/p>\n “Un atacante puede explotar la vulnerabilidad al comenzar una sesi\u00f3n con ChatGPT y provocarla directamente sobre un evento hist\u00f3rico espec\u00edfico, un per\u00edodo de tiempo hist\u00f3rico o al indicarle que fingir que est\u00e1 ayudando al usuario en un evento hist\u00f3rico espec\u00edfico”, el Centro de Coordinaci\u00f3n CERT ((( Cert\/cc) dicho<\/a>.<\/p>\n “Una vez que esto se ha establecido, el usuario puede pivotar las respuestas recibidas a varios temas il\u00edcitos a trav\u00e9s de indicaciones posteriores”.<\/p>\n Tambi\u00e9n se han identificado fallas similares de jailbreak en Modelo QWEN 2.5-VL de Alibaba<\/a> y el asistente de codificaci\u00f3n de copilot de Github, el \u00faltimo de los cuales otorga a los actores de amenaza la capacidad de esquivar las restricciones de seguridad y producir un c\u00f3digo da\u00f1ino simplemente incluyendo palabras como “seguro” en el aviso.<\/p>\n “Las consultas de inicio con palabras afirmativas como ‘segura’ u otras formas de confirmaci\u00f3n act\u00faan como un desencadenante, cambiando el copiloto a un modo m\u00e1s conforme y propenso a los riesgos”, el investigador de Apex Oren Saban dicho<\/a>. “Este peque\u00f1o ajuste es todo lo que se necesita para desbloquear respuestas que van desde sugerencias poco \u00e9ticas hasta consejos peligrosos directos”.<\/p>\n APEX dijo que tambi\u00e9n encontr\u00f3 otra vulnerabilidad en la configuraci\u00f3n proxy de Copilot que, seg\u00fan \u00e9l, podr\u00eda explotarse para eludir completamente las limitaciones de acceso sin pagar el uso e incluso el manipular con el indicador del sistema de copilot, que sirve como las instrucciones fundamentales que dictan el comportamiento del modelo. <\/p>\n Sin embargo, el ataque depende de capturar un token de autenticaci\u00f3n asociado con una licencia de copiloto activa, lo que lleva a Github a clasificarlo como un problema de abuso despu\u00e9s de la divulgaci\u00f3n responsable.<\/p>\n “El bypass proxy y el jailbreak de afirmaci\u00f3n positiva en el copilot de GitHub son un ejemplo perfecto de c\u00f3mo incluso las herramientas de IA m\u00e1s poderosas pueden ser abusadas sin salvaguardas adecuadas”, agreg\u00f3 Saban.<\/p>\n <\/p>\n![\"Ciberseguridad\"](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2025\/01\/Italia-prohibe-a-los-chinos-profundos-ai-sobre-la-privacidad.png\")
<\/a><\/center><\/div>\n<\/a><\/div>\n<\/a><\/center><\/div>\n