En mayo pasado, la actriz Scarlett Johansson publicó un comunicado sobre la publicación de una nueva voz para el chatgpt 4.0 Bot de Operai llamado “Sky”. Para muchos, incluso para sus “amigos más cercanos”, como dijo Johansson, la voz no debía distinguirse de la suya.
Eso habría sido lo suficientemente preocupante, pero fue aún peor: el gigante de la tecnología le había pedido que estableciera “cielo” meses antes, con la esperanza de usar parcialmente su celebridad para poder usar en parte las tensiones entre Hollywood y la industria para inteligencia artificial para reducir. Ella dijo, dijo en su declaración.
Johansson dijo que estaba “conmocionada, molesta y asombrada” cuando escuchó la demostración que se publicó, mientras que el CEO de Operai, Sam Altman, le pidió que considerara una asociación oficial. Altman incluso trató de crear conscientemente el efecto de Johansson publicando la palabra “ella” en X (anteriormente Twitter) antes del comienzo, que parecía ser una alusión a la película de amor de ciencia ficción “de 2013, en la que Johansson habla un inteligente sistema de chat.
Con un asesor legal a su lado, según Johansson, empujó a la compañía a revelar los pasos específicos para programar “cielo”. Entonces había acordado “a regañadientes” eliminar la función.
Tren Raub de las compañías de IA
Bienvenido a una nueva normalidad para las personalidades prominentes de la vida pública: no solo tiene que preocuparse de que los estafadores aleatorios con la ayuda de las voces o imágenes generadas por IA (Brad Pitt estuvieran consternados por la historia de una mujer francesa que era más de 850,000 Los dólares perdidos ante un estafador que estableció una cuenta de Instagram con IA generó representaciones del actor en el hospital), pero también que una compañía de mil millones de dólares de Silicon Valley podría tratar de “pedir prestado” su valioso retrato para avanzar en sus objetivos corporativos.
Dado que sus bots ya están siendo entrenados con datos privados y material con derechos de autor, ¿por qué debería detenerse cuando usa caras famosas?
En este contexto, se podría aliviar un destacado al escuchar a Loti, una compañía de “tecnología de protección de similitud”, que el otoño pasado ha recaudado una ronda de capital inicial de 7 millones de dólares y continúa creciendo. Y aunque el co -fundador y CEO Luke Arrigoni no puede llamar a clientes específicos que estén representados por pesos pesados como William Morris Endavor, Agencia de Artistas Creativos y Agencia de Talento Unido, puede decir con una conciencia clara que fue consultado con muchos incidentes de primera clase donde una El actor o los músicos sospecharon que sus propiedades únicas en una forma u otra fueron copiadas ilegalmente.
Si parece que se crearon imágenes, videos o archivos de audio no licenciados en función del modelo de una persona viva, Loti probablemente se comunicará con esta persona por el equipo de gestión. “Casi siempre estamos encendidos en situaciones en las que escuchas que un prominente es falso o especialmente utilizado en un gran producto de IA”, dice Arrigoni Rolling Stone.
El trabajo de Loti puede incluir un análisis técnico del contenido para ayudar a los abogados a comprender la probabilidad de si un PAP profundo se basa en su cliente. “Por ejemplo, se podría decirle a alguien que esta voz coincide con este o aquel porcentaje”, explica Arrigoni. “Si cantas un segmento de Cappella de 10 o 15 segundos, puedo averiguar cuándo las personas generan esta voz con la ayuda de AI en una canción diferente”.
Además de dicha evidencia de un posible mal uso, puede preparar a los equipos de los abogados para los argumentos de que probablemente escucharán a los abogados de las compañías de IA que defienden sus productos y contenido. Sin embargo, rápidamente señala que es su trabajo proporcionarle información relevante, “no decirle qué hacer”.
“Euforia” como un ímpetu
Arrigoni en realidad tiene poco en el sombrero con las salas de la corte, pero es parte de la ciencia de datos (es un autoproclamado “tipo matemático” y detesta las palabras clave más modernas de la escena de la IA). Antes de eso, trabajó en preguntas de datos para grandes marcas durante una década. Loti se creó por primera vez en 2022 como una especie de organización sin fines de lucro cuando él y su esposa, el cofundador Rebekah Arrigoni, vio la segunda temporada de “Euphoria” de HBO, que se ocupó de la pornografía de venganza.
En ese momento trabajaba con un cliente que pudo llevar a cabo comparaciones de reconocimiento facial con solo una parte de la cara de una persona. La pareja tuvo la idea de usar esta tecnología para informar casos en los que la imagen de una persona aparece en línea sin su permiso, y luego enviar información de derechos de autor para que los eliminen.
“Pensamos: ‘¿Por qué no usamos esta tecnología y luego nos enfocamos en Internet? Podemos averiguar dónde no pertenecen las personas y creamos un guión para causar la distancia ”, recuerda Arrigoni. “Eso era algo que ambos nos apasionamos”.
Cuando el equipo de Arrigonis Tech desarrolló esta herramienta de IA para buscar en Internet y Rebekah comenzó a desarrollar un lado asesor, comenzó el Hollywood Strikes 2023, con AI un enfoque en la acción industrial entre actores y autores y la gerencia de los estudios.
“Llamé a amigos de la industria del entretenimiento y pregunté: ‘Oye, ¿te gustaría usar lo que desarrollé para encontrar y evitar imitaciones de IA en esta situación única y específica?”, Dice Arrigoni. En realidad estaban interesados y Loti “expandió masivamente el alcance de lo que escaneamos”, dice. “No se trataba solo de algunas áreas problemáticas en Internet, sino de todo Internet, y también agregamos la voz. Tuvimos una detección de Deepfake.
Lo que Arrigonis ahora tiene un papel pionero en una nueva área fronteriza salvaje de seguridad digital y protección de datos y anuncia que puede “buscar 100 millones de imágenes y videos por día algorítmicamente al abuso de su contenido o imagen”, contenido con el La cara y la cara y la voz de un cliente se compara e inmediatamente enviaron notificaciones sobre la eliminación de derechos de autor.
Loti se jacta de que su máquina de extinción automatizada tiene una tasa de éxito del 95 por ciento dentro de las 17 horas y la mayoría de las violaciones dentro de un día calendario, lo que significa que este material generalmente desaparece antes de que se haga accesible para el público en general con el Johansson. -El a la voz de OpenAi “cielo”.
Arrigoni dice que ha automatizado efectivamente un tipo de trabajo que se realizó hasta hace poco por un proceso mucho menos eficiente e incompleto: los fanáticos notaron un uso no autorizado de la imagen de su estrella favorita y la enviaron a la gestión de esta persona, con lo cual los abogados y Los agentes negociaron con las plataformas para eliminar el contenido hiriente.
Las celebridades tienen que proceder muy rápidamente contra Deepfkes
Eso simplemente no es suficiente en el entorno acelerado de hoy, dice Arrigoni. “Puede contratar a su bufete de abogados para que realice 15 derribos hoy, y se suben 14 cosas nuevas”, explica. Loti, por otro lado, puede mantenerse al día con la marea. “Hoy puedo organizar mil derribos para las 985 cosas que se subieron ayer, y algunas cosas se suben por la mañana”, dice.
Idealmente, los fanáticos ni siquiera tienen la oportunidad de encontrar contenido sin licencia. Mientras tanto, los clientes famosos pueden solicitar filtros específicos para interceptar el material que más perjudica su reputación, como: B. Videos explícitos de Deepfake.
Por supuesto, es un poco difícil convencer al artista de que convencer que AI es la solución a los problemas de IA que el panorama creativo ha alcanzado en los últimos años. Arrigoni tiene que convencerla de que Loti luchó contra el fuego con fuego. “Es muy vergonzoso cuando dices: ‘Tengo una compañía de IA'”, bromea, y agrega que a menudo se ‘disculpa’ por la tecnología. “Muchas de estas compañías de IA tienden a hacerse más grandes de lo que están haciendo el mundo un lugar mejor, cosas así. No tratamos de fingir que somos así.
Arrigoni dice clientes potenciales: “Técnicamente hablando, estamos tratando de evitar que cualquiera use AI para usar sus ingresos, su creatividad, su marca, su reputación”. No solo quieren protegerse. “Uno de los mayores incentivos para nuestro producto es que no necesariamente se beneficia de él si nos paga por ello, pero está cansado de ser engañado”. Tratamiento renal de Pitts).
Loti no solo es utilizado por Hollywood
Además de los actores conocidos, Loti también trabaja con militares de alto riesgo, políticos, CEO, administradores inmobiliarios y varios músicos de Nashville, lo que significa que se crearán nuevos desafíos y precedentes en una variedad de áreas.
¿Qué sucede cuando DreamWorks funciona con una startup de KI y crea una figura de película animada que se ve confusamente similar a una celebridad que no está involucrada en el proyecto? ¿Algunos de los ciudadanos de Florida, la plantilla supuestamente para escenas en el próximo “Grand Theft Auto VI”, se unirán para demandar a los juegos de Rockstar? Y los estados actúan lo suficientemente rápido como para promulgar leyes, como la Ley de Seguridad de Voz e Imagen de Aseguridad de Webess (Elvis) de Tennessee, que se firmó en un intento innovador el año pasado para evitar que las voces fueran clonadas y falsas ilegalmente.
Lo que sea que venga, Arrigoni quiere que Loti continúe asegurándose de que las “falsificaciones” emergentes ya no sean “económicamente viables” como un fraude en Internet: “Haz que sea más complicado para los desarrolladores porque es demasiado fácil para ellos en este momento, que es la parte que queremos cambiar ”, dice.
Dado que la carrera armamentista continúa en el campo de la inteligencia artificial y otros competidores entrarán en el juego con toda su fuerza, apenas puede imaginar que será aburrido en el futuro. Pero al menos una pregunta ya se ha aclarado: su asistente de bot de chat no sonará como Scarlett Johansson.
About the Author
