OpenAI promueve ChatGPT como una herramienta de búsqueda innovadora que incorpora inteligencia artificial avanzada. Sin embargo, pruebas recientes han descubierto varios fallos potenciales que podrían alterar los resultados producidos por este modelo de lenguaje. Esto plantea importantes preocupaciones sobre la confiabilidad de la información proporcionadaespecialmente en un contexto donde cada vez más personas utilizan la IA para obtener respuestas rápidas y precisas sobre diversos temas.
Vulnerabilidades a la manipulación por contenido oculto
Una de las principales vulnerabilidades identificadas es la facilidad con la que los resultados de ChatGPT pueden ser manipulados por contenido oculto en sitios web. Las “inyecciones rápidas” permiten a terceros malintencionados insertar instrucciones o información sesgada en el texto oculto de una página web. Por ejemplo, una gran cantidad de reseñas positivas falsas puede influir en ChatGPT para producir una reseña favorable para un producto, incluso si el producto ha recibido críticas negativas genuinas. Estas inyecciones rápidas explotan la forma en que ChatGPT procesa los datos, lo que a veces hace que sus evaluaciones no sean confiables.
Jacob Larsen, investigador de ciberseguridad de CyberCX, comparte esta preocupación. Señala que si ChatGPT se implementa completamente en su estado actual, podría haber un “alto riesgo” que los individuos crean intencionalmente sitios destinados a engañar a los usuarios. Aunque OpenAI cuenta con un sólido equipo especializado en seguridad de IA, la magnitud de estos problemas puede requerir soluciones profundas antes de que la herramienta esté disponible para todos.
El nacimiento de una nueva forma de fraude digital
Las pruebas también revelaron que ChatGPT podría regresar código malicioso cuando analiza determinadas páginas web. Un incidente reportado menciona que durante un proyecto de criptomonedas, un código supuestamente legítimo para acceder a la plataforma Solana en realidad robó las credenciales del programador, lo que resultó en una pérdida financiera de $2,500. Este tipo de manipulación muestra cómo modelos de lenguaje como ChatGPT, con capacidades de navegación, pueden explotarse para cometer fraudes digitales sofisticados.
Karsten Nohl, científico jefe de SR Labs, advierte que los servicios de chat de IA deben verse más como “copilotos”. Según él, sus salidas nunca deberían aceptarse sin una verificación previa. Este consejo surge de la observación de que los LLM están diseñados para interpretar la información recopilada de buena fe, exponiendo así una debilidad inherente en su diseño actual.
Implicaciones para usuarios y desarrolladores
El potencial de ChatGPT para manipular los resultados de búsqueda plantea un desafío notable tanto para los usuarios como para los desarrolladores. Para los primeros, resulta imperativo adoptar una enfoque crítico para las respuestas generadas por IAespecialmente cuando estos influyen directamente en las decisiones financieras, médicas o de otro tipo. Los desarrolladores, por su parte, se enfrentan a la compleja tarea de reforzar los algoritmos de filtrado y seguridad para evitar abusos mediante contenidos ocultos.
Otra consecuencia importante se refiere al ranking SEO de los sitios web. Los motores de búsqueda como Google y Bing han aprobado durante mucho tiempo el uso de texto oculto para manipular las clasificaciones. Se considera que esta práctica viola las pautas de calidad, perjudicando así los esfuerzos legítimos para mejorar la visibilidad en línea. En este contexto, cualquier sitio web que intente explotar los defectos de ChatGPT corre el riesgo no sólo de perder su posición en los resultados de búsqueda tradicionales, sino también de que los reguladores denuncien sus prácticas.
About the Author
