¿Chat-GPT llega a sus límites? Microsoft anunció el viernes 17 de febrero que debería implementar límites de conversación para su Bing de inteligencia artificial, basado en el agente conversacional de OpenAI. Hace unos días, el chatbot descarriló repetidamente al insultar o provocar a los usuarios. Los chats de Bing ahora tendrán un límite de 50 preguntas por día y cinco por sesión.
Solo el 1% de las conversaciones tienen más de 50 mensajes
Hace unas semanas, Microsoft integró la nueva versión de ChatGPT, denominada Prometheus, con Bing y Edge. Anunciado apresuradamente que iba un paso por delante de Google, Microsoft había advertido que las largas sesiones de chat, con 15 o más preguntas, podrían hacer que Bing ” volverse repetitivo o dar respuestas que no son necesariamente útiles o están en consonancia con el tono general de la conversación “.
Los mensajes de prevención no han detenido a los internautas, artículos y tuits sobre conversaciones” anormal de Bing apareció a principios de esta semana. EL New York Times había publicado una conversación de más de dos horas con Bing, en la que la IA decía que amaba a su interlocutor y que no pudo dormir esa noche. Ben Thompson, un analista tecnológico, había tuiteado un mensaje enviado por la IA que decía ” No quiero continuar esta conversación contigo. No creo que seas un usuario amable y respetuoso. No creo que seas una buena persona. No creo que valga la pena mi tiempo y energía. “.
Ante esto, el equipo a cargo de Bing ha declaradoeste viernes, en una publicación de blog, “ nuestros datos han demostrado que la gran mayoría de las personas encuentran las respuestas que buscan en menos de 5 preguntas y solo alrededor del 1% de las conversaciones de chat tienen más de 50 mensajes “.
Los usuarios ahora podrán hacer 5 preguntas por sesión y 50 preguntas por día. La compañía dijo que consideraría aumentar los límites de preguntas en el futuro y agregar herramientas para brindar a los usuarios más control sobre el tono del chatbot.
Este primer derrape de Prometheus recuerda al AI Tay en Twitter. En 2016, Microsoft lanzó un chatbot destinado a chatear con adolescentes en las redes sociales. Pero los comentarios racistas, sexistas y homófobos se deslizaron muy rápidamente en estos intercambios. Esta experiencia ha llevado a las empresas de IA, como Microsoft o Google, a ser cautelosas al exponer su sistema al público en general. El entusiasmo mediático suscitado por la IA generativa, en particular OpenAI, ha hecho olvidar esta cautela.
About the Author
