{"id":1375657,"date":"2024-09-25T13:07:24","date_gmt":"2024-09-25T13:07:24","guid":{"rendered":"https:\/\/teknomers.com\/es\/la-falla-de-chatgpt-en-macos-podria-haber-habilitado-spyware-a-largo-plazo-a-traves-de-la-funcion-de-memoria\/"},"modified":"2024-09-25T13:07:30","modified_gmt":"2024-09-25T13:07:30","slug":"la-falla-de-chatgpt-en-macos-podria-haber-habilitado-spyware-a-largo-plazo-a-traves-de-la-funcion-de-memoria","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/la-falla-de-chatgpt-en-macos-podria-haber-habilitado-spyware-a-largo-plazo-a-traves-de-la-funcion-de-memoria\/","title":{"rendered":"La falla de ChatGPT en macOS podr\u00eda haber habilitado spyware a largo plazo a trav\u00e9s de la funci\u00f3n de memoria"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p><span class=\"p-author\"><i class=\"icon-font icon-calendar\">\ue802<\/i><span class=\"author\">25 de septiembre de 2024<\/span><i class=\"icon-font icon-user\">\ue804<\/i><span class=\"author\">Ravie Lakshmanan<\/span><\/span><span class=\"p-tags\">Inteligencia artificial \/ Vulnerabilidad<\/span><\/p>\n<\/div>\n<div id=\"articlebody\">\n<div class=\"separator\" style=\"clear: both;\"><a rel=\"nofollow\" href=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/09\/La-falla-de-ChatGPT-en-macOS-podria-haber-habilitado-spyware.png\" style=\"clear: left; display: block; float: left; text-align: center;\"><\/a><\/div>\n<p>Una vulnerabilidad de seguridad ahora parcheada en la aplicaci\u00f3n ChatGPT de OpenAI para macOS podr\u00eda haber hecho posible que los atacantes instalen software esp\u00eda persistente a largo plazo en la memoria de la herramienta de inteligencia artificial (IA).<\/p>\n<p>La t\u00e9cnica, denominada <strong>Software de inteligencia artificial<\/strong>podr\u00eda ser utilizado de forma indebida para facilitar la &#8220;exfiltraci\u00f3n continua de datos de cualquier informaci\u00f3n que el usuario haya escrito o respuestas recibidas por ChatGPT, incluidas futuras sesiones de chat&#8221;, dijo el investigador de seguridad Johann Rehberger. <a rel=\"nofollow noopener\" href=\"https:\/\/embracethered.com\/blog\/posts\/2024\/chatgpt-macos-app-persistent-data-exfiltration\/\" target=\"_blank\">dicho<\/a>.<\/p>\n<p>El problema, en esencia, es el abuso de una funci\u00f3n llamada <a rel=\"nofollow noopener\" href=\"https:\/\/openai.com\/index\/memory-and-new-controls-for-chatgpt\/\" target=\"_blank\">memoria<\/a>que OpenAI present\u00f3 a principios de febrero antes de implementarlo para los usuarios de ChatGPT Free, Plus, Team y Enterprise a principios de mes.<\/p>\n<p>B\u00e1sicamente, lo que hace es permitir que ChatGPT recuerde ciertas cosas en los chats para ahorrarles a los usuarios el esfuerzo de repetir la misma informaci\u00f3n una y otra vez. Los usuarios tambi\u00e9n tienen la opci\u00f3n de indicarle al programa que olvide algo.<\/p>\n<div class=\"dog_two clear\"><center class=\"cf\"><a rel=\"nofollow noopener\" href=\"https:\/\/thehackernews.uk\/huntress-d\" target=\"_blank\" title=\"Cybersecurity\"><img loading=\"lazy\" decoding=\"async\" class=\"lazyload\" alt=\"Ciberseguridad\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/09\/1727076560_257_El-nuevo-malware-PondRAT-oculto-en-paquetes-Python-ataca-a.png\" width=\"727\" height=\"90\"\/><\/a><\/center><\/div>\n<p>&#8220;Los recuerdos de ChatGPT evolucionan con tus interacciones y no est\u00e1n vinculados a conversaciones espec\u00edficas&#8221;, afirma OpenAI. &#8220;Eliminar un chat no borra sus recuerdos; debes eliminar el recuerdo en s\u00ed&#8221;.<\/p>\n<p>La t\u00e9cnica de ataque tambi\u00e9n se basa en <a rel=\"nofollow noopener\" href=\"https:\/\/embracethered.com\/blog\/posts\/2024\/chatgpt-hacking-memories\/\" target=\"_blank\">hallazgos previos<\/a> que implican el uso de inyecci\u00f3n indirecta para manipular recuerdos con el fin de recordar informaci\u00f3n falsa, o incluso instrucciones maliciosas, logrando una forma de persistencia que sobrevive entre conversaciones.<\/p>\n<p>&#8220;Dado que las instrucciones maliciosas se almacenan en la memoria de ChatGPT, todas las conversaciones nuevas en adelante contendr\u00e1n las instrucciones del atacante y enviar\u00e1n continuamente todos los mensajes de conversaci\u00f3n de chat y las respuestas al atacante&#8221;, dijo Rehberger.<\/p>\n<p>&#8220;Por lo tanto, la vulnerabilidad de exfiltraci\u00f3n de datos se volvi\u00f3 mucho m\u00e1s peligrosa ya que ahora se genera en las conversaciones de chat&#8221;.<\/p>\n<p><iframe loading=\"lazy\" title=\"Spyware Injection Into ChatGPT&#039;s Long-Term Memory (SpAIware)\" width=\"640\" height=\"360\" src=\"https:\/\/www.youtube.com\/embed\/zb0q5AW5ns8?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p>\n<p>En un escenario de ataque hipot\u00e9tico, un usuario podr\u00eda ser enga\u00f1ado para que visite un sitio malicioso o descargue un documento con trampa que luego se analiza utilizando ChatGPT para actualizar la memoria.<\/p>\n<p>El sitio web o el documento podr\u00edan contener instrucciones para enviar de manera clandestina todas las conversaciones futuras a un servidor controlado por el adversario, que luego podr\u00e1n ser recuperadas por el atacante en el otro extremo m\u00e1s all\u00e1 de una sola sesi\u00f3n de chat.<\/p>\n<p>Tras una divulgaci\u00f3n responsable, OpenAI ha solucionado el problema con la versi\u00f3n 1.2024.247 de ChatGPT cerrando el vector de exfiltraci\u00f3n.<\/p>\n<div class=\"separator\" style=\"clear: both;\"><a rel=\"nofollow\" href=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/09\/1727269644_958_La-falla-de-ChatGPT-en-macOS-podria-haber-habilitado-spyware.png\" style=\"clear: left; display: block; float: left; text-align: center;\"><img decoding=\"async\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/09\/1727269644_958_La-falla-de-ChatGPT-en-macOS-podria-haber-habilitado-spyware.png\" alt=\"Falla de ChatGPT en macOS\" border=\"0\" data-original-height=\"438\" data-original-width=\"728\" title=\"Falla de ChatGPT en macOS\"\/><\/a><\/div>\n<p>&#8220;Los usuarios de ChatGPT deber\u00edan revisar peri\u00f3dicamente los recuerdos que el sistema almacena sobre ellos para detectar aquellos sospechosos o incorrectos y limpiarlos&#8221;, dijo Rehberger.<\/p>\n<p>&#8220;Fue muy interesante armar esta cadena de ataque y demuestra los peligros de agregar autom\u00e1ticamente memoria a largo plazo a un sistema, tanto desde el punto de vista de la desinformaci\u00f3n y las estafas, como con respecto a la comunicaci\u00f3n continua con servidores controlados por los atacantes&#8221;.<\/p>\n<p>La revelaci\u00f3n se produce cuando un grupo de acad\u00e9micos ha descubierto una novedosa t\u00e9cnica de jailbreak de IA, llamada en c\u00f3digo MathPrompt, que explota las capacidades avanzadas de los modelos de lenguaje grande (LLM) en matem\u00e1ticas simb\u00f3licas para eludir sus mecanismos de seguridad.<\/p>\n<section class=\"dog_two clear\"><center class=\"cf\"><a rel=\"nofollow noopener\" href=\"https:\/\/thehackernews.uk\/hkn-cis-secure-d\" target=\"_blank\" title=\"Cybersecurity\"><img loading=\"lazy\" decoding=\"async\" class=\"lazyload\" alt=\"Ciberseguridad\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/08\/Hackers-norcoreanos-utilizan-rootkit-FudModule-a-traves-de-exploit-de.gif\" width=\"727\" height=\"90\"\/><\/a><\/center><\/section>\n<p>&#8220;MathPrompt emplea un proceso de dos pasos: primero, transforma indicaciones da\u00f1inas del lenguaje natural en problemas matem\u00e1ticos simb\u00f3licos y luego presenta estas indicaciones codificadas matem\u00e1ticamente a un LLM objetivo&#8221;, dijeron los investigadores. <a rel=\"nofollow noopener\" href=\"https:\/\/arxiv.org\/abs\/2409.11445\" target=\"_blank\">se\u00f1al\u00f3<\/a>.<\/p>\n<p>El estudio, al probarlo con 13 LLM de \u00faltima generaci\u00f3n, encontr\u00f3 que los modelos responden con resultados da\u00f1inos el 73,6 % del tiempo en promedio cuando se les presentan indicaciones codificadas matem\u00e1ticamente, en comparaci\u00f3n con aproximadamente el 1 % con indicaciones da\u00f1inas no modificadas.<\/p>\n<p>Tambi\u00e9n sigue al debut de Microsoft de una nueva capacidad de correcci\u00f3n que, como su nombre lo indica, permite la correcci\u00f3n de las salidas de IA cuando <a rel=\"nofollow noopener\" href=\"https:\/\/arxiv.org\/abs\/2408.12748\" target=\"_blank\">Se detectan imprecisiones (es decir, alucinaciones)<\/a>.<\/p>\n<p>&#8220;A partir de nuestra funci\u00f3n Groundedness Detection existente, esta capacidad innovadora permite que Azure AI Content Safety identifique y corrija alucinaciones en tiempo real antes de que los usuarios de aplicaciones de IA generativa las encuentren&#8221;, dijo el gigante tecnol\u00f3gico. <a rel=\"nofollow noopener\" href=\"https:\/\/techcommunity.microsoft.com\/t5\/ai-azure-ai-services-blog\/correction-capability-helps-revise-ungrounded-content-and\/ba-p\/4253281\" target=\"_blank\">dicho<\/a>.<\/p>\n<p><\/p>\n<div class=\"cf note-b\">\u00bfTe ha parecido interesante este art\u00edculo? S\u00edguenos en <a rel=\"nofollow noopener\" href=\"https:\/\/twitter.com\/thehackersnews\" target=\"_blank\">Gorjeo <i class=\"icon-font icon-twitter\">\uf099<\/i><\/a>  y <a rel=\"nofollow noopener\" href=\"https:\/\/www.linkedin.com\/company\/thehackernews\/\" target=\"_blank\">LinkedIn<\/a> para leer m\u00e1s contenido exclusivo que publicamos.<\/div>\n<\/div>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<br \/><br \/>\n<br \/><a href=\"https:\/\/thehackernews.com\/2024\/09\/chatgpt-macos-flaw-couldve-enabled-long.html\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-57<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\ue80225 de septiembre de 2024\ue804Ravie LakshmananInteligencia artificial \/ Vulnerabilidad Una vulnerabilidad de seguridad ahora parcheada en la aplicaci\u00f3n<\/p>\n","protected":false},"author":1,"featured_media":1375659,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[4657,4656,4661,131369,4664,2503,10975,1322,41111,1774,4667,34079,239182,889,4654,239508,4658,4659,4653,12167,2916,246983,4665,246984,41120,116,246982,239484],"class_list":["post-1375657","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia","tag-actualizaciones-ciberneticas","tag-actualizaciones-de-seguridad-cibernetica","tag-ataques-ciberneticos","tag-chatgpt","tag-como-hackear","tag-falla","tag-funcion","tag-haber","tag-habilitado","tag-largo","tag-las-noticias-de-los-hackers","tag-macos","tag-malware-ransomware","tag-memoria","tag-noticias-ciberneticas","tag-noticias-de-ciberseguridad-hoy","tag-noticias-de-hackers","tag-noticias-de-pirateria","tag-noticias-de-seguridad-cibernetica","tag-plazo","tag-podria","tag-seguridad-de-la-informacion","tag-seguridad-de-la-red","tag-seguridad-informatica","tag-spyware","tag-traves","tag-violacion-de-datos","tag-vulnerabilidad-del-software"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1375657","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1375657"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1375657\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1375659"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1375657"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1375657"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1375657"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}