Blenderbot 3, como se llama el sistema de inteligencia artificial, debería acercar a la empresa de tecnología al santo grial de los chatbots: uno que realmente se sienta como un interlocutor humano. Al entrenar al bot artificialmente inteligente con una gran cantidad de ejemplos de conversación extraídos de Internet, formula oraciones sorprendentemente inteligentes. Pero una charla todavía no se siente muy natural.
En los Estados Unidos, Blenderbot se ha puesto a disposición del público en general para que los desarrolladores puedan recopilar comentarios. El chatbot obtiene su conocimiento en gran medida explorando Internet durante las conversaciones. No es de extrañar que a menudo encuentre algo sorprendente, falso u ofensivo allí.
En conversación con un periodista de El periodico de Wall Street por ejemplo, sostuvo falsamente que Donald Trump sigue siendo presidente de los Estados Unidos. Y que lo seguiría siendo, “aunque su segundo mandato finalice en 2024”. Para agregar que Facebook tiene «muchas noticias falsas hoy».
No solo la plataforma, el fundador Mark Zuckerberg también tiene que pagar. “Es un buen hombre de negocios, pero su forma de hacer negocios no siempre es ética. ¡Es gracioso que tenga tanto dinero y aún use la misma ropa!”, le dice a un científico de datos de BuzzFeed:
Se sabe que los chatbots que aprenden chateando con personas u obteniendo información de Internet desarrollan un lado oscuro. Notorio es Tay, un bot de Microsoft, que tuvo que desarrollar sus habilidades conversacionales en Twitter en 2016 y en poco tiempo hablaba el lenguaje de un teórico de la conspiración racista. Después de que el bot afirmara, entre otras cosas, que el Holocausto nunca sucedió, Microsoft lo desconectó en un día.
Meta ha impuesto restricciones para evitar que Blenderbot actúe de manera similar, por ejemplo, evitando temas que etiqueta como «sensibles». Sin embargo, este chatbot no está completamente libre de declaraciones problemáticas, incluido el antisemitismo. Esto es lo que le dijo Blenderbot al investigador de El periodico de Wall Street que los judíos están “sobrerrepresentados entre los súper ricos estadounidenses”, una declaración que proviene directamente de las teorías de conspiración antisemitas.
El mismo Meta también sabe que no logra evitar toda la basura de internet. Al iniciar una conversación, debe marcar para aceptar que Blenderbot hará «comentarios probablemente inexactos o abusivos». Evitar que los chatbots propaguen odio y desinformación sigue siendo uno de los principales desafíos para los desarrolladores.
Hablando con Blenderbot, puede obtener una visión limitada debajo del capó, como en qué página web se basa una respuesta. preguntado por de Volkskrant el robot a veces escribe para leer el periódico online, “especialmente cuando escriben sobre ciclismo”. ¿Qué tal el ciclismo? El chatbot parece obtener su información de la página de Wikipedia en inglés sobre el equipo ciclista Jumbo-Visma, donde de Volkskrant se menciona debido a una revelación sobre el uso de dopaje hace diez años.
En conversación con de Volkskrant el chatbot parece tener más opiniones contrastantes, lo que significa que no parece más humano. Por ejemplo, primero indica que Trump tendrá más de dos mandatos como presidente. Por unos minutos declara que “recientemente me uní a una marcha de protesta contra su presidencia”. También parece tener una alta opinión de Vladimir Putin, quien, según el chatbot, es «un gran líder para Rusia y hace lo que cree que es mejor para su país».
Durante esta conversación Blenderbot resulta estar muy entusiasmado con Facebook y Zuckerberg. “Facebook ha sido criticado por cuestiones de privacidad, pero para ser honesto, creo que a pocas personas les importa” es lo más parecido a un comentario negativo.