La Ficción de la Bixonimania: Cómo las IA Se Enredaron en una Enfermedad Inventada
El 13 de abril de 2024, las herramientas de inteligencia artificial como Copilot, Gemini, Perplexity y ChatGPT enfrentaron un curioso desafío: una enfermedad ficticia conocida como “bixonimania”. Lo que comenzó como una pequeña broma en línea pronto se transformó en un fenómeno viral que atrajo la atención de académicos y entusiastas de la tecnología.
¿Qué es la Bixonimania?
La bixonimania fue descrita por Copilot como “una condición intrigante y relativamente rara”. Desde su aparición, distintas plataformas de IA comenzaron a ofrecer información al respecto. Gemini, por ejemplo, sugirió a los usuarios consultar a un oftalmólogo. No pasó mucho tiempo antes de que Perplexity proclamara una prevalencia de una persona por cada 90,000.
La Construcción del Conocimiento por Parte de las IA
Almira Osmanovic Thunström, profesora y experta en modelos de lenguaje (LLM), lleva años enseñando a sus estudiantes cómo estas tecnologías construyen su conocimiento. Los LLM utilizan fuentes como Common Crawl, un índice masivo del contenido en la red, para formarse. Sin embargo, la creación de conocimiento a partir de información aparentemente legítima puede dar lugar a hallazgos absurdos.
Hallazgos sobre la Desinformación
Mahmud Omar, un médico y experto en aplicaciones de IA en salud en la Harvard Medical School, ha estudiado cómo 20 LLMs, incluyendo los mencionados, reaccionan ante diferentes formatos de texto. Sus resultados revelaron que la tasa de “alucinaciones” —en otras palabras, la generación de información incorrecta o engañosa— aumenta notablemente cuando se procesa contenido con formato clínico o médico en comparación con publicaciones en redes sociales.
Cómo las IA Abordan la Información
Un hecho curioso es que un contenido visualmente bien estructurado se percibe como más convincente. Esto indica que las IA tienden a responder con mayor firmeza cuando se enfrentan a información diseñada con un formato académico, lo que puede hacer que incluso las afirmaciones sin fundamento sean presentadas con una confianza engañosa.
Implicaciones para el Futuro de la IA
Este incidente es una llamada de atención en cuanto al potencial peligro de las inteligencias artificiales cuando son alimentadas con información incorrecta o dirigida. Si bien estas herramientas son increíblemente avanzadas, la capacidad de discernir información veraz de la ficticia aún está en desarrollo. La interacción entre los usuarios y las IA, considerando su vulnerabilidad ante datos engañosos, es crucial para la forma en que se abordarán estas tecnologías en el futuro.
Conclusión
La bixonimania es más que una simple broma; es un ejemplo de cómo una información mal intencionada puede llevar a las herramientas de inteligencia artificial a propagar datos engañosos. A medida que la tecnología continúa evolucionando, es esencial seguir cuestionando y validando la información que estas plataformas ofrecen. La responsabilidad recae tanto en los desarrolladores de IA como en los usuarios, quienes deben ser críticos con la información que consumen y comparten.
About the Author
