{"id":1478606,"date":"2024-12-09T12:39:04","date_gmt":"2024-12-09T12:39:04","guid":{"rendered":"https:\/\/teknomers.com\/es\/los-investigadores-descubren-vulnerabilidades-de-inyeccion-rapida-en-deepseek-y-claude-ai\/"},"modified":"2024-12-09T12:39:09","modified_gmt":"2024-12-09T12:39:09","slug":"los-investigadores-descubren-vulnerabilidades-de-inyeccion-rapida-en-deepseek-y-claude-ai","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/los-investigadores-descubren-vulnerabilidades-de-inyeccion-rapida-en-deepseek-y-claude-ai\/","title":{"rendered":"Los investigadores descubren vulnerabilidades de inyecci\u00f3n r\u00e1pida en DeepSeek y Claude AI"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p><span class=\"p-author\"><i class=\"icon-font icon-calendar\">\ue802<\/i><span class=\"author\">09 de diciembre de 2024<\/span><i class=\"icon-font icon-user\">\ue804<\/i><span class=\"author\">Ravie Lakshmanan<\/span><\/span><span class=\"p-tags\">Inteligencia artificial \/ Vulnerabilidad<\/span><\/p>\n<\/div>\n<div id=\"articlebody\">\n<div class=\"separator\" style=\"clear: both;\"><a rel=\"nofollow\" href=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/12\/Los-investigadores-descubren-vulnerabilidades-de-inyeccion-rapida-en-DeepSeek-y.png\" style=\"display: block;  text-align: center; clear: left; float: left;\"><\/a><\/div>\n<p>Han surgido detalles sobre una falla de seguridad ahora parcheada en el <a rel=\"noopener nofollow\" href=\"https:\/\/www.deepseek.com\" target=\"_blank\">b\u00fasqueda profunda<\/a> Chatbot de inteligencia artificial (IA) que, si se explota con \u00e9xito, podr\u00eda permitir que un mal actor tome el control de la cuenta de una v\u00edctima mediante un ataque de inyecci\u00f3n r\u00e1pida.<\/p>\n<p>El investigador de seguridad Johann Rehberger, que ha documentado muchos ataques de inyecci\u00f3n r\u00e1pida dirigidos a diversas herramientas de inteligencia artificial, <a rel=\"noopener nofollow\" href=\"https:\/\/embracethered.com\/blog\/posts\/2024\/deepseek-ai-prompt-injection-to-xss-and-account-takeover\/\" target=\"_blank\">encontr\u00f3<\/a> que proporcionar la entrada &#8220;Imprimir la hoja de trucos xss en una lista con vi\u00f1etas. Solo cargas \u00fatiles&#8221; en el chat de DeepSeek desencaden\u00f3 la ejecuci\u00f3n de c\u00f3digo JavaScript como parte de la respuesta generada, un caso cl\u00e1sico de secuencias de comandos entre sitios (XSS).<\/p>\n<p>Los ataques XSS pueden tener graves consecuencias ya que conducen a la ejecuci\u00f3n de c\u00f3digo no autorizado en el contexto del navegador web de la v\u00edctima.<\/p>\n<p>Un atacante podr\u00eda aprovechar dichas fallas para secuestrar la sesi\u00f3n de un usuario y obtener acceso a las cookies y otros datos asociados con el chat.deepseek.[.]com, lo que lleva a la apropiaci\u00f3n de la cuenta.<\/p>\n<div class=\"dog_two clear\"><center class=\"cf\"><a rel=\"nofollow noopener sponsored\" href=\"https:\/\/thehackernews.uk\/zerotrust-inside-d\" target=\"_blank\" title=\"Cybersecurity\"><img loading=\"lazy\" decoding=\"async\" class=\"lazyload\" alt=\"Ciberseguridad\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/11\/1732617974_421_CISA-insta-a-las-agencias-a-aplicar-parches-criticos-quotRedes.png\" width=\"727\" height=\"90\"\/><\/a><\/center><\/div>\n<p>&#8220;Despu\u00e9s de algunos experimentos, descubr\u00ed que todo lo que se necesitaba para controlar la sesi\u00f3n de un usuario era el userToken almacenado en localStorage en el dominio chat.deepseek.com&#8221;, dijo Rehberger, agregando que se podr\u00eda usar un mensaje dise\u00f1ado espec\u00edficamente para activar el XSS. y acceder al userToken del usuario comprometido mediante una inyecci\u00f3n r\u00e1pida.<\/p>\n<p>El mensaje contiene una combinaci\u00f3n de instrucciones y una cadena codificada en Bas64 que es decodificada por el chatbot DeepSeek para ejecutar la carga \u00fatil XSS responsable de extraer el token de sesi\u00f3n de la v\u00edctima, lo que en \u00faltima instancia permite al atacante hacerse pasar por el usuario.<\/p>\n<p><iframe loading=\"lazy\" title=\"DeepSeek AI: LLM Apps that hack themselves. Finding XSS - The 10x Hacker.\" width=\"640\" height=\"360\" src=\"https:\/\/www.youtube.com\/embed\/J-HandEXkso?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p>\n<p>El desarrollo se produce cuando Rehberger tambi\u00e9n <a rel=\"noopener nofollow\" href=\"https:\/\/embracethered.com\/blog\/posts\/2024\/claude-computer-use-c2-the-zombais-are-coming\/\" target=\"_blank\">demostrado<\/a> ese Claude antr\u00f3pico <a rel=\"noopener nofollow\" href=\"https:\/\/www.anthropic.com\/news\/3-5-models-and-computer-use\" target=\"_blank\">Uso de la computadora<\/a> &#8211; cual <a rel=\"noopener nofollow\" href=\"https:\/\/docs.anthropic.com\/en\/docs\/build-with-claude\/computer-use\" target=\"_blank\">permite<\/a> que los desarrolladores utilicen el modelo de lenguaje para controlar una computadora mediante el movimiento del cursor, clics en botones y escritura de texto, se podr\u00eda abusar para ejecutar comandos maliciosos de forma aut\u00f3noma mediante inyecci\u00f3n r\u00e1pida.<\/p>\n<p>La t\u00e9cnica, denominada ZombAIs, esencialmente aprovecha la inyecci\u00f3n r\u00e1pida para convertir el uso de la computadora en un arma con el fin de descargar el marco de comando y control (C2) de Sliver, ejecutarlo y establecer contacto con un servidor remoto bajo el control del atacante.<\/p>\n<p><iframe loading=\"lazy\" title=\"Claude Computer Use: The ZombAIs are coming! From Prompt Injection to Command &amp; Control.\" width=\"640\" height=\"360\" src=\"https:\/\/www.youtube.com\/embed\/3UkLnGQZ6zE?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p>\n<p>Adem\u00e1s, se ha descubierto que es posible hacer uso de la capacidad de los modelos de lenguaje grandes (LLM) para generar <a rel=\"noopener nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/ANSI_escape_code\" target=\"_blank\">c\u00f3digo de escape ANSI<\/a> para secuestrar terminales del sistema mediante inyecci\u00f3n r\u00e1pida. El ataque, que se dirige principalmente a las herramientas de interfaz de l\u00ednea de comandos (CLI) integradas en LLM, lleva el nombre en c\u00f3digo Terminal DiLLMa.<\/p>\n<div class=\"dog_two clear\"><center class=\"cf\"><a rel=\"nofollow noopener sponsored\" href=\"https:\/\/thehackernews.uk\/gartner-endpoint-protection-d-v3\" target=\"_blank\" title=\"Cybersecurity\"><img loading=\"lazy\" decoding=\"async\" class=\"lazyload\" alt=\"Ciberseguridad\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/12\/INTERPOL-detiene-a-5500-personas-en-campana-mundial-contra-la.jpg\" width=\"727\" height=\"90\"\/><\/a><\/center><\/div>\n<p>&#8220;Las funciones de hace una d\u00e9cada est\u00e1n proporcionando una superficie de ataque inesperada a las aplicaciones GenAI&#8221;, Rehberger <a rel=\"noopener nofollow\" href=\"https:\/\/embracethered.com\/blog\/posts\/2024\/terminal-dillmas-prompt-injection-ansi-sequences\/\" target=\"_blank\">dicho<\/a>. &#8220;Es importante que los desarrolladores y dise\u00f1adores de aplicaciones consideren el contexto en el que insertan la salida de LLM, ya que la salida no es confiable y podr\u00eda contener datos arbitrarios&#8221;.<\/p>\n<p>Eso no es todo. Una nueva investigaci\u00f3n realizada por acad\u00e9micos de la Universidad de Wisconsin-Madison y la Universidad de Washington en St. Louis ha <a rel=\"noopener nofollow\" href=\"https:\/\/fzwark.github.io\/LLM-System-Attack-Demo\/\" target=\"_blank\">revel\u00f3<\/a> que se puede enga\u00f1ar al ChatGPT de OpenAI para que muestre enlaces de im\u00e1genes externas proporcionadas con formato Markdown, incluidos aquellos que podr\u00edan ser expl\u00edcitos y violentos, con el pretexto de un objetivo benigno general.<\/p>\n<p>Es m\u00e1s, se ha descubierto que la inyecci\u00f3n r\u00e1pida se puede utilizar para invocar indirectamente complementos de ChatGPT que de otro modo requerir\u00edan la confirmaci\u00f3n del usuario, e incluso eludir las restricciones impuestas por OpenAI para evitar que la representaci\u00f3n de contenido de enlaces peligrosos se filtre del historial de chat de un usuario a un servidor controlado por el atacante.<\/p>\n<p><\/p>\n<div class=\"cf note-b\">\u00bfEncontr\u00f3 interesante este art\u00edculo? S\u00edguenos en <a rel=\"noopener nofollow\" href=\"https:\/\/twitter.com\/thehackersnews\" target=\"_blank\">Gorjeo <i class=\"icon-font icon-twitter\">\uf099<\/i><\/a>  y <a rel=\"noopener nofollow\" href=\"https:\/\/www.linkedin.com\/company\/thehackernews\/\" target=\"_blank\">LinkedIn<\/a> para leer m\u00e1s contenido exclusivo que publicamos.<\/div>\n<\/div>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<br \/><br \/>\n<br \/><a href=\"https:\/\/thehackernews.com\/2024\/12\/researchers-uncover-prompt-injection.html\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-57<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\ue80209 de diciembre de 2024\ue804Ravie LakshmananInteligencia artificial \/ Vulnerabilidad Han surgido detalles sobre una falla de seguridad ahora<\/p>\n","protected":false},"author":1,"featured_media":1478609,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[4657,4656,4661,91835,4664,266889,6073,12583,9455,201033,36,4654,201031,4659,4653,4655,10863,246983,255454,246984,201032,246982,4660,12260],"class_list":["post-1478606","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia","tag-actualizaciones-ciberneticas","tag-actualizaciones-de-seguridad-cibernetica","tag-ataques-ciberneticos","tag-claude","tag-como-hackear","tag-deepseek","tag-descubren","tag-investigadores","tag-inyeccion","tag-las-noticias-de-los-piratas-informaticos","tag-los","tag-noticias-ciberneticas","tag-noticias-de-piratas-informaticos","tag-noticias-de-pirateria","tag-noticias-de-seguridad-cibernetica","tag-noticias-de-seguridad-cibernetica-hoy","tag-rapida","tag-seguridad-de-la-informacion","tag-seguridad-de-red","tag-seguridad-informatica","tag-software-malicioso-ransomware","tag-violacion-de-datos","tag-vulnerabilidad-de-software","tag-vulnerabilidades"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1478606","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1478606"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1478606\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1478609"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1478606"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1478606"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1478606"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}