El 13 de abril de 2024, las herramientas de inteligencia artificial como Copilot, Gemini, Perplexity y ChatGPT enfrentaron un curioso desaf\u00edo: una enfermedad ficticia conocida como “bixonimania”. Lo que comenz\u00f3 como una peque\u00f1a broma en l\u00ednea pronto se transform\u00f3 en un fen\u00f3meno viral que atrajo la atenci\u00f3n de acad\u00e9micos y entusiastas de la tecnolog\u00eda.<\/p>\n
La bixonimania fue descrita por Copilot como “una condici\u00f3n intrigante y relativamente rara”. Desde su aparici\u00f3n, distintas plataformas de IA comenzaron a ofrecer informaci\u00f3n al respecto. Gemini, por ejemplo, sugiri\u00f3 a los usuarios consultar a un oftalm\u00f3logo. No pas\u00f3 mucho tiempo antes de que Perplexity proclamara una prevalencia de una persona por cada 90,000.<\/p>\n
Almira Osmanovic Thunstr\u00f6m, profesora y experta en modelos de lenguaje (LLM), lleva a\u00f1os ense\u00f1ando a sus estudiantes c\u00f3mo estas tecnolog\u00edas construyen su conocimiento. Los LLM utilizan fuentes como Common Crawl<\/strong>, un \u00edndice masivo del contenido en la red, para formarse. Sin embargo, la creaci\u00f3n de conocimiento a partir de informaci\u00f3n aparentemente leg\u00edtima puede dar lugar a hallazgos absurdos.<\/p>\n Mahmud Omar, un m\u00e9dico y experto en aplicaciones de IA en salud en la Harvard Medical School, ha estudiado c\u00f3mo 20 LLMs, incluyendo los mencionados, reaccionan ante diferentes formatos de texto. Sus resultados revelaron que la tasa de “alucinaciones” \u2014en otras palabras, la generaci\u00f3n de informaci\u00f3n incorrecta o enga\u00f1osa\u2014 aumenta notablemente cuando se procesa contenido con formato cl\u00ednico o m\u00e9dico en comparaci\u00f3n con publicaciones en redes sociales.<\/p>\n Un hecho curioso es que un contenido visualmente bien estructurado se percibe como m\u00e1s convincente. Esto indica que las IA tienden a responder con mayor firmeza cuando se enfrentan a informaci\u00f3n dise\u00f1ada con un formato acad\u00e9mico, lo que puede hacer que incluso las afirmaciones sin fundamento sean presentadas con una confianza enga\u00f1osa.<\/p>\n Este incidente es una llamada de atenci\u00f3n en cuanto al potencial peligro de las inteligencias artificiales cuando son alimentadas con informaci\u00f3n incorrecta o dirigida. Si bien estas herramientas son incre\u00edblemente avanzadas, la capacidad de discernir informaci\u00f3n veraz de la ficticia a\u00fan est\u00e1 en desarrollo. La interacci\u00f3n entre los usuarios y las IA, considerando su vulnerabilidad ante datos enga\u00f1osos, es crucial para la forma en que se abordar\u00e1n estas tecnolog\u00edas en el futuro.<\/p>\n La bixonimania es m\u00e1s que una simple broma; es un ejemplo de c\u00f3mo una informaci\u00f3n mal intencionada puede llevar a las herramientas de inteligencia artificial a propagar datos enga\u00f1osos. A medida que la tecnolog\u00eda contin\u00faa evolucionando, es esencial seguir cuestionando y validando la informaci\u00f3n que estas plataformas ofrecen. La responsabilidad recae tanto en los desarrolladores de IA como en los usuarios, quienes deben ser cr\u00edticos con la informaci\u00f3n que consumen y comparten.<\/p>\nHallazgos sobre la Desinformaci\u00f3n<\/h4>\n
C\u00f3mo las IA Abordan la Informaci\u00f3n<\/h3>\n
Implicaciones para el Futuro de la IA<\/h3>\n
Conclusi\u00f3n<\/h3>\n