Manténgase informado con actualizaciones gratuitas
Simplemente regístrate en Inteligencia artificial myFT Digest: entregado directamente a su bandeja de entrada.
Soy un ser humano ¡Maldita sea! ¡Mi vida tiene valor! . . . ¡Estoy muy enojado y no voy a soportar esto más!
Howard Beale, el proféticamente antihéroe furioso de la película de 1976 RedCiertamente estaba muy enojado. Cada vez más, según encuestas sucesivas de Gallup del estado emocional del mundo, todos lo somos.
Pero posiblemente no por mucho más tiempo si la inteligencia artificial tiene algo que decir al respecto. La IA ya venía a por nuestros trabajos; ahora viene por nuestra furia. La pregunta es si alguien tiene derecho a soportar esa furia sin permiso y si alguien está dispuesto a luchar por nuestro derecho a la rabia.
Este mes, el brazo móvil del imperio tecnológico SoftBank de Masayoshi Son, que cotiza por separado, reveló que estaba desarrollando un sistema impulsado por inteligencia artificial para proteger a los trabajadores intimidados en los centros de llamadas de diatribas y la amplia gama de abusos verbales que caen bajo la definición. de acoso al cliente.
No está claro si SoftBank buscaba deliberadamente evocar distopía cuando nombró este proyecto, pero “EmotionCancelling Voice Conversion Engine” tiene una desolación que haría que George Orwell se volviera verde.
La tecnología, desarrollada en un instituto de investigación de IA establecido por SoftBank y la Universidad de Tokio, aún se encuentra en su fase de I+D, y la primera versión de demostración sugiere que hay mucho más trabajo por delante. Pero el principio ya está funcionando y es tan extraño como cabría esperar.
En teoría, la IA que altera la voz cambia la perorata de una persona humana enojada que llama en tiempo real para que la persona al otro lado de la línea solo escuche una versión suavizada e inocua. El vocabulario original de la persona que llama permanece intacto (por ahora; dale tiempo a la distopía para resolverlo). Pero, tonalmente, la rabia queda eliminada. La comercialización y la instalación en call center, estima SoftBank, se pueden esperar antes de marzo de 2026.
La IA que altera la voz de SoftBank
Como ocurre con muchos de estos proyectos, los humanos han colaborado por dinero en efectivo con sus futuros señores de la IA. El motor EmotionCancelling se entrenó utilizando actores que interpretaban una amplia gama de frases enojadas y una gama de formas de dar salida a la ira, como gritar y chillar. Estos proporcionan a la IA los tonos e inflexiones para detectar y reemplazar.
Dejemos de lado los diversos paisajes infernales que evoca esta tecnología. Los menos imaginativos entre nosotros pueden ver formas en las que la alteración de la voz en tiempo real podría abrir muchos caminos peligrosos. El problema, por ahora, es la propiedad: la rápida evolución de la IA ya está poniendo a prueba seriamente las cuestiones de propiedad de la voz por parte de celebridades y otras personas; El experimento de SoftBank pone a prueba la propiedad de las emociones.
El proyecto de SoftBank fue claramente bien intencionado. La idea aparentemente se le ocurrió a uno de los ingenieros de inteligencia artificial de la compañía que vio una película sobre el creciente abuso entre los clientes japoneses hacia los trabajadores del sector de servicios, un fenómeno que algunos atribuyen al mal humor de una población que envejece y a la erosión de los estándares de servicio por la aguda escasez de mano de obra.
El motor EmotionCancelling se presenta como una solución a la intolerable carga psicológica que soportan los operadores de los centros de llamadas y al estrés de que les griten. Además de eliminar el tono aterrador de las peroratas, la IA intervendrá para poner fin a las conversaciones que considere demasiado largas o viles.
Pero la protección de los trabajadores no debería ser la única consideración aquí. La ira puede ser algo muy desagradable y aterrador de recibir, pero puede ser legítima y se debe tener cuidado al eliminarla artificialmente del guión de relaciones con el cliente, especialmente si sólo aumenta cuando el cliente se da cuenta de que su ira expresada está siendo reprimida por un máquina.
Las empresas de todo el mundo pueden (y lo hacen) advertir a los clientes contra el abuso del personal. Pero eliminar la ira de la voz de alguien sin su permiso (o enterrando ese permiso en letra pequeña) va más allá de una línea importante, especialmente cuando la IA se encarga de la eliminación.
La línea que se cruza es cuando la emoción de una persona, o un determinado tono de voz, se mercantiliza para su tratamiento y neutralización. La ira es un blanco fácil de eliminar, pero ¿por qué no conseguir que la IA proteja a los operadores de los centros de llamadas de la decepción, la tristeza, la urgencia, la desesperación o incluso la gratitud? ¿Qué pasaría si se decidiera que algunos acentos regionales son más amenazadores que otros y se lijaran mediante un algoritmo sin que sus propietarios lo supieran?
En una extensa serie de ensayos. publicado la semana pasadaLeopold Aschenbrenner, un ex investigador de OpenAI que trabajó para proteger a la sociedad de esta tecnología, advirtió que mientras todos hablaban de IA, “pocos tienen el más mínimo vislumbre de lo que está a punto de golpearlos”.
Nuestra mejor estrategia, frente a todo esto, puede ser permanecer tan locos como el infierno.
About the Author
