Ya sea en Chatgpt, Grok, Google Gemini o Mistral, si usa inteligencia artificial, ciertamente ha recibido fantasioso, original o incluso … respuestas falsas.
Los usuarios más atentos habrán notado un mensaje que aparece bajo cada respuesta que indica que “ChatGPT puede cometer errores” y que incluso se “recomienda verificar la información importante”.
Un estudio explica las alucinaciones de la IA
Si las divagaciones de la IA, que especialistas en inteligencia artificial llaman a “alucinaciones”, no son tan frecuentes como en el lanzamiento de ChatGPT en 2022, fueron tan inexplicables para el público en general. En 2024, un primero Estudio de la Universidad de Stanford ya había demostrado que Las alucinaciones se refieren al 10% de las solicitudes.
Pero es más recientemente, en un Estudio publicado en Hugging Face este miércoles y dirigido por Chalecouna empresa francesa especializada en análisis e inteligencia artificial, que hemos podido saber más sobre las razones de estas alucinaciones …
¡Cuidado con las preguntas cortas y NBSP!
Entre los elementos que revela este estudio, primero son las preguntas cortas que se señalan. Siendo considerados demasiado imprecisos, a veces ambiguos y sin ningún contexto, pueden confundir completamente las inteligencias artificiales.
Según los investigadores, esto sigue siendo aún más problemático a medida que observamos Más y más respuestas cortas En algunos modelos para limitar los costos.
Modelos más propicios para las alucinaciones
Giskard, después de haber llevado a cabo un estudio sobre varios modelos, esto también hizo posible comprender que ciertos modelos podrían ser más propicios para las alucinaciones. Y si uno pudiera imaginar que solo sean los modelos menos avanzados, desafortunadamente este no es el caso.
De hecho, el estudio muestra que GPT-4Oque actualmente es el modelo de OpenAI utilizado de forma predeterminada en ChatGPT, es solo uno de los modelos que más alucinan. Esta herramienta es utilizado por una de cada diez personas en el mundo Según Sam Altman En una reciente conferencia de TEDla observación sigue siendo preocupante.
Entre los otros modelos identificados, Giskard menciona Gran Mistralpero también Claude 3.7 soneto En el lado de antrópico.
¿Experiencia del usuario a expensas de la realidad y nbsp?
Si el fenómeno de las alucinaciones no es nada nuevo del lado de las inteligencias artificiales, este estudio hace posible resaltar un hecho que no se tome a la ligera.
De hecho, con un uso cada vez más masivo y costos cada vez más importantes, las empresas como OpenAI o Anthrope se enfrentan a opciones en su experiencia de usuario. Si las respuestas cortas facilitan los usos y son menos costosas, también podrían promover la desinformación en el futuro…
About the Author
