Cómo los actores están perdiendo la voz ante la IA

Greg Marston, un actor de doblaje británico con más de 20 años de experiencia, descubrió recientemente que su propia voz se usaba para una demostración en línea.

Marston’s fue una de varias voces en el sitio web Revoicerque ofrece una herramienta de inteligencia artificial que convierte texto en voz en 40 idiomas, con diferentes entonaciones, estados de ánimo y estilos.

Como no recordaba haber aceptado que su voz fuera clonada usando IA, se puso en contacto con la compañía. Revoicer le dijo que habían comprado su voz a IBM.

En 2005, Marston había firmado un contrato con IBM para un trabajo que había grabado para un sistema de navegación por satélite. En el contrato de 18 años, un estándar de la industria, Marston había firmado sus derechos de voz a perpetuidad, en un momento antes de que existiera la IA generativa. Ahora, IBM tiene licencia para vender su voz a terceros que podrían clonarla usando IA y venderla con cualquier propósito comercial. IBM dijo que estaba “consciente de la preocupación planteada por el Sr. Marston” y que estaba “discutiéndolo directamente con él”.

“[Marston] está trabajando en el mismo mercado, sigue vendiendo su voz para ganarse la vida y ahora está compitiendo consigo mismo”, dijo Mathilde Pavis, la abogada del artista que se especializa en tecnologías de clonación digital. “Él había firmado un documento pero no había acuerdo para que fuera clonado por una tecnología imprevista 20 años después”.

Miles de otros artistas de doblaje y performance se enfrentan al mismo dilema que Marston a medida que las empresas se apresuran a comercializar IA generativa: sistemas de inteligencia artificial que pueden generar rápidamente texto, imágenes y contenido similares a los humanos.

Durante el último año, la tecnología de síntesis de voz se ha vuelto más precisa, ampliamente disponible y fácil de producir, lo que ha dado lugar a nuevos modelos de negocio en torno a la clonación de IA. Los artistas cuyo trabajo se basa en sus voces y rostros ven amenazados sus medios de subsistencia a través de contratos potencialmente explotadores, métodos de extracción de datos y supuestas estafas, lo que resulta en una rápida erosión de su trabajo y sus derechos.

Pavis dijo que ha tenido al menos 45 consultas relacionadas con la IA desde enero, incluidos casos de actores que escuchan sus voces en estafas telefónicas, como llamadas falsas de seguros o anuncios generados por IA. Equity, el sindicato de la industria de las artes escénicas y el entretenimiento en el Reino Unido, está trabajando con Pavis y dice que también ha recibido varias quejas sobre estafas y explotación de IA en los últimos seis meses.

“Estamos viendo que cada vez más miembros usan su voz, imagen y semejanza para crear actuaciones completamente nuevas utilizando tecnología de inteligencia artificial, ya sea con o sin consentimiento”, dijo Liam Budd, funcionario industrial de nuevos medios en Equity. “No hay protección si eres parte de un conjunto de datos de miles o millones de personas cuyas voces o semejanzas han sido extraídas por los desarrolladores de IA”.

Laurence Bouvard, un actor de doblaje residente en Londres para audiolibros, anuncios y radionovelas, también se ha encontrado con varios casos de comportamiento explotador. Recientemente recibió alertas de Facebook sobre castings falsos, donde los sitios web de IA les piden a los actores que lean recetas o líneas de galimatías que en realidad son solo vehículos para raspar sus datos de voz para modelos de IA.

Algunos anuncian trabajos regulares de voz pero incluyen cláusulas de síntesis de IA en los contratos, mientras que otros son directos pero ofrecen una miseria a cambio de los derechos permanentes de la voz del actor. Un anuncio de trabajo reciente en el mercado de trabajos creativos Mandy.com, por ejemplo, describió un concierto de medio día grabando un guión de cinco minutos en video para crear presentadores de IA por la empresa de tecnología D-ID.

“Esta tecnología ya se ha utilizado para ayudar a empresas como Microsoft con sus videos de capacitación”, decía el anuncio de reclutamiento. “El diálogo está censurado para que la tecnología no pueda usarse para decir nada explícito u ofensivo”, agregó.

A cambio de la imagen y el parecido del actor, la empresa ofrecía a las personas una tarifa fija de 600 libras esterlinas. D-ID dijo que pagó “precios justos de mercado”. Agregó que el anuncio en particular fue retirado y “no refleja el pago final”.

“Tenga en cuenta que, sin datos de entrenamiento, la IA no existiría”, dijo Bouvard en un evento organizado recientemente por el Congreso de Sindicatos en Westminster. “Y, sin embargo, sin pedir permiso ni proporcionar una compensación adecuada. . . las empresas de inteligencia artificial están arrebatando nuestras voces, nuestras actuaciones y semejanzas, entrenando sus algoritmos en nuestros datos para producir un producto que pretende reemplazarnos”.

Agregó: “Según la legislación actual, no hay nada que los artistas podamos hacer al respecto. No se trata solo de proteger los puestos de trabajo: también se trata de proteger lo que significa ser un artista”.

Marcus Hutton, que ha sido actor de doblaje durante tres décadas, ha estado recopilando una lista de empresas de síntesis de interpretación o de IA y ha encontrado más de 60, muchas de las cuales cuentan con una considerable financiación de capital de riesgo. Por ejemplo, ElevenLabs, con sede en Londres, recaudó este mes 19 millones de dólares en una ronda codirigida por Andreessen Horowitz, con participantes como el cofundador de Instagram, Mike Krieger, y el cofundador de Oculus, Brendan Iribe.

“Hay que verlo como es: una transferencia financiera mayorista del sector creativo al sector tecnológico. Eso está muy claro: el dinero se está moviendo de nuestro bote hacia el bote de ellos”, dijo Hutton. “Cada vez que un artista se acerca a un micrófono o frente a una cámara, existe el peligro de que se le quiten sus derechos de IA”.

ElevenLabs dijo que estaba trabajando con actores de doblaje y sus representantes para comprender cómo plataformas como la suya podrían crear más oportunidades comerciales para el sector. La compañía dijo: “Creemos que las empresas de inteligencia artificial y las comunidades creativas pueden trabajar juntas para garantizar que estas tecnologías creen nuevos. . . rutas hacia los ingresos, al tiempo que permite a los creadores de contenido producir contenido aún mejor y más accesible a nivel mundial”.

Alrededor del 94 por ciento de los trabajadores de las industrias creativas ganan menos de 33.280 libras esterlinas al año, el salario medio a tiempo completo del Reino Unido, según una encuesta realizada por Equity. Ese nivel de pago los deja vulnerables en cualquier negociación. En una industria que ya utiliza contratos sin escrúpulos contra los artistas, la introducción de la IA ha debilitado aún más su posición, según el abogado Pavis.

Revoicer, la compañía de voz de IA, dijo que la voz de Marston provenía del servicio de conversión de texto a voz en la nube de IBM. La empresa emergente se lo compró a IBM, “como miles de otros desarrolladores”, a una tarifa de $20 por 1 millón de caracteres de audio hablado, o aproximadamente 16 horas.

Legalmente, los artistas tienen pocos recursos. Las leyes de privacidad de datos son la única legislación que cubre la IA, y el gobierno del Reino Unido ha manifestado su deseo de una regulación de PI ligera que permita que prospere la innovación de la IA.

“El [UK] la ley de derechos de autor no se ha tocado de manera importante durante al menos 25 años. Es un poco anterior a Internet”, dijo el actor de voz Hutton. “Los únicos derechos que tienen los artistas en este momento son el consentimiento. Pero en nuestra línea de trabajo, tienes que dar tu consentimiento. Si no consientes, no trabajas y no comes. Así que es una posición de negociación muy asimétrica”.

Equity, que cuenta con Hutton y Bouvard como miembros, ha pedido que se codifiquen nuevos derechos en la ley, explícitamente en contratos de tiempo limitado, en lugar del estándar de la industria de firmar derechos a perpetuidad. También exige que la ley incluya la necesidad de un consentimiento explícito si la IA va a clonar la voz o el cuerpo de un artista. Hace dos semanas, el sindicato publicó un “juego de herramientas” que proporciona cláusulas y contratos modelo sobre el uso de la IA a los que pueden referirse los artistas y sus agentes.

“Soy un actor que trabaja por cuenta ajena. . . probablemente uno de la última generación de actores que trabajan todos los días que logró comprar una casa o criar a sus hijos sin ser enormemente famoso”, dijo Hutton. “Es deprimente, pero no puedo ver cómo es sostenible por más tiempo”.