\n<\/p>\n
Ya sea en Chatgpt, Grok, Google Gemini o Mistral, si usa inteligencia artificial, ciertamente ha recibido fantasioso, original o incluso … respuestas falsas<\/strong>.<\/p>\n Los usuarios m\u00e1s atentos habr\u00e1n notado un mensaje que aparece bajo cada respuesta que indica que “ChatGPT puede cometer errores” y que incluso se “recomienda verificar la informaci\u00f3n importante”.<\/p>\n Si las divagaciones de la IA, que especialistas en inteligencia artificial llaman a “alucinaciones”, no son tan frecuentes como en el lanzamiento de ChatGPT en 2022, fueron tan inexplicables para el p\u00fablico en general. En 2024, un primero Estudio de la Universidad de Stanford<\/a> ya hab\u00eda demostrado que Las alucinaciones se refieren al 10% de las solicitudes<\/strong>.<\/p>\n Pero es m\u00e1s recientemente, en un Estudio publicado en Hugging Face este mi\u00e9rcoles<\/a> y dirigido por Chaleco<\/strong>una empresa francesa especializada en an\u00e1lisis e inteligencia artificial, que hemos podido saber m\u00e1s sobre las razones de estas alucinaciones …<\/p>\n Entre los elementos que revela este estudio, primero son las preguntas cortas que se se\u00f1alan. Siendo considerados demasiado imprecisos, a veces ambiguos y sin ning\u00fan contexto, pueden confundir completamente las inteligencias artificiales.<\/p>\n Seg\u00fan los investigadores, esto sigue siendo a\u00fan m\u00e1s problem\u00e1tico a medida que observamos M\u00e1s y m\u00e1s respuestas cortas<\/strong> En algunos modelos para limitar los costos.<\/p>\n Giskard, despu\u00e9s de haber llevado a cabo un estudio sobre varios modelos, esto tambi\u00e9n hizo posible comprender que ciertos modelos podr\u00edan ser m\u00e1s propicios para las alucinaciones. Y si uno pudiera imaginar que solo sean los modelos menos avanzados, desafortunadamente este no es el caso.<\/p>\n De hecho, el estudio muestra que GPT-4O<\/strong>que actualmente es el modelo de OpenAI utilizado de forma predeterminada en ChatGPT, es solo uno de los modelos que m\u00e1s alucinan. Esta herramienta es utilizado por una de cada diez personas en el mundo<\/strong> Seg\u00fan Sam Altman En una reciente conferencia de TED<\/a>la observaci\u00f3n sigue siendo preocupante.<\/p>\n Entre los otros modelos identificados, Giskard menciona Gran Mistral<\/strong>pero tambi\u00e9n Claude 3.7 soneto<\/strong> En el lado de antr\u00f3pico.<\/p>\n Si el fen\u00f3meno de las alucinaciones no es nada nuevo del lado de las inteligencias artificiales, este estudio hace posible resaltar un hecho que no se tome a la ligera.<\/p>\n De hecho, con un uso cada vez m\u00e1s masivo y costos cada vez m\u00e1s importantes, las empresas como OpenAI o Anthrope se enfrentan a opciones en su experiencia de usuario. Si las respuestas cortas facilitan los usos y son menos costosas, tambi\u00e9n podr\u00edan promover la desinformaci\u00f3n<\/strong> en el futuro\u2026<\/p>\n<\/div>\nUn estudio explica las alucinaciones de la IA<\/h2>\n
\u00a1Cuidado con las preguntas cortas y NBSP!<\/h2>\n
Modelos m\u00e1s propicios para las alucinaciones<\/h2>\n
\u00bfExperiencia del usuario a expensas de la realidad y nbsp?<\/h2>\n