En mai dernier, l’actrice Scarlett Johansson a publié une déclaration sur la publication d’une nouvelle voix pour le bot Chatgpt 4.0 par Openai appelé “Sky”. Pour beaucoup – même pour leurs “amis les plus proches”, comme l’a dit Johansson – la voix ne devait pas être distinguée de la leur.
Cela aurait été suffisamment inquiétant, mais cela a été encore pire: le géant de la technologie lui avait demandé de se mettre “Sky” lui-même des mois plus tôt, dans l’espoir d’utiliser partiellement leur célébrité afin de pouvoir utiliser en partie les tensions entre Hollywood et l’industrie pour intelligence artificielle pour réduire. Elle a dit, a-t-elle dit dans sa déclaration.
Johansson a déclaré qu’elle était “choquée, ennuyée et étonnée” lorsqu’elle a entendu la démo qui avait été publiée, tandis que le PDG d’Openai, Sam Altman, lui a demandé d’envisager un partenariat officiel. Altman a même essayé de créer consciemment l’effet Johansson en publiant le mot “Her” sur X (anciennement Twitter) avant le départ, qui semblait être une allusion au film d’amour de science-fiction “Her” de 2013, dans lequel Johansson parle un intelligent Système de chat.
Avec un conseiller juridique à ses côtés, selon Johansson, elle a poussé l’entreprise à divulguer les étapes spécifiques pour programmer “Sky”. À ce sujet avait «à contrecœur» accepté de supprimer la fonction.
Train Raub des sociétés d’IA
Bienvenue dans une nouvelle normalité pour des personnalités éminentes de la vie publique: vous devez non seulement vous soucier que des fraudeurs aléatoires à l’aide de voix ou d’images générées par l’IA qu’ils ne dépensent (Brad Pitt a été consterné par l’histoire d’une femme française qui était plus de 850 000 000 Les dollars perdus contre un fraudeur qui ont créé un compte Instagram auprès de l’IA ont généré des représentations de l’acteur à l’hôpital), mais aussi qu’une entreprise d’un milliard de dollars de la Silicon Valley pourrait essayer d’emprunter leur précieux portrait pour faire avancer ses objectifs d’entreprise.
Étant donné que vos robots sont déjà formés avec des données privées et du matériel protégé par le droit d’auteur, pourquoi devriez-vous vous arrêter lorsque vous utilisez des visages célèbres?
Dans ce contexte, une éminente pourrait être soulagée d’entendre Loti, une entreprise pour “la technologie de protection de la similitude”, que l’automne a levé l’automne dernier a levé un tour de capital de départ de 7 millions de dollars et continue de croître. Et bien que le co-fondateur et PDG Luke Arrigoni ne puisse pas appeler des clients spécifiques qui sont représentés par des poids lourds comme William Morris Endary, Creative Artists Agency et United Talent Agency, il peut dire avec une conscience claire qu’il a été consulté avec de nombreux incidents de classe supérieure où un L’acteur ou les musiciens soupçonnaient que ses propriétés uniques sous une forme ou l’autre étaient copiées illégalement.
S’il apparaît que des images, des vidéos ou des fichiers audio non licenciés ont été créés sur la base du modèle d’une personne vivante, LoTI contactera probablement cette personne par l’équipe de direction. “Nous sommes presque toujours allumés dans des situations dans lesquelles vous entendez qu’un éminent est faux ou surtout utilisé dans un grand produit d’IA”, explique Arrigoni Rolling Stone.
Le travail de Lote peut inclure une analyse technique du contenu pour aider les avocats à comprendre la probabilité de savoir si un PAP profond est basé sur votre client. “Par exemple, on pourrait dire à quelqu’un que cette voix correspond à ce pourcentage ou à ce pourcentage”, explique Arrigoni. “Si vous chantez un segment A cappella de 10 ou 15 secondes, je peux savoir quand les gens génèrent cette voix avec l’aide de l’IA dans une chanson différente.”
En plus de ces preuves d’une éventuelle utilisation abusive, il peut préparer les équipes des avocats aux arguments qu’ils entendront probablement les avocats des sociétés de l’IA qui défendent leurs produits et leurs contenus. Cependant, il souligne rapidement que c’est son travail de vous fournir des informations pertinentes, “ne vous dire pas quoi faire”.
“Euphorie” comme un élan
Arrigoni a en fait peu dans le chapeau avec les salles de cour, mais fait partie de la science des données (il est un “type mathématique” autoproclamé et déteste les mots clés les plus tendance de la scène de l’IA). Avant cela, il a travaillé sur des questions de données pour les grandes marques pendant une décennie. Loti a été créé pour la première fois en 2022 comme une sorte d’organisation sans but lucratif lorsque lui et sa femme, la co-fondatrice Rebekah Arrigoni, ont vu la deuxième saison de “Euphoria” de HBO, qui traitait de la pornographie de vengeance.
À cette époque, il a travaillé avec un client qui a pu effectuer des comparaisons de reconnaissance faciale avec seulement une partie du visage d’une personne. Le couple a eu l’idée d’utiliser cette technologie pour signaler les cas dans lesquels l’image d’une personne apparaît en ligne sans leur permission, puis d’envoyer des informations sur le droit d’auteur afin de les supprimer.
«Nous avons pensé:« Pourquoi n’utilisons-nous pas cette technologie et ne nous concentrons-nous pas sur Internet? Nous pouvons savoir où les gens n’appartiennent pas et nous créons un script pour provoquer la distance », se souvient Arrigoni. “C’était quelque chose qui nous passionne tous les deux.”
Lorsque l’équipe d’Arrigonis Tech a développé cet outil d’IA pour rechercher sur Internet et Rebekah a commencé à développer un côté consultatif, les Strikes 2023 d’Hollywood ont commencé, l’IA étant un objectif dans l’action industrielle entre les acteurs et les auteurs et la gestion des studios.
“J’ai appelé des amis de l’industrie du divertissement et j’ai demandé:” Hé, aimeriez-vous utiliser la chose que j’ai développée pour trouver et éloigner les imitations de l’IA dans cette situation unique et spécifique? “”, A déclaré Arrigoni. Ils étaient en fait intéressés et Loti “élargit massivement la portée de ce que nous avons scanné”, dit-il. «Il ne s’agissait pas seulement de quelques zones problématiques sur Internet, mais de l’ensemble de Internet, et nous avons également ajouté la voix. Nous avons eu une détection profonde. “
Ce que Arrigonis a maintenant un rôle pionnier dans une nouvelle zone frontalière sauvage de la sécurité numérique et de la protection des données et des annonces qu’il peut “rechercher 100 millions d’images et de vidéos par jour algorithmiquement à l’abus de leur contenu ou de leur image”, contenu avec le Le visage et le visage et la voix d’un client comparent et envoyaient immédiatement des notifications sur la suppression des droits d’auteur.
Loti se vante que sa machine à extinction automatisée a un taux de réussite de 95% dans les 17 heures et la plupart des violations dans un délai civil – ce qui signifie que ce matériel est généralement disparu avant d’être rendu accessible au grand public en contraste avec le Johansson -Le voix d’Openai “Sky”.
Arrigoni dit que vous avez effectivement automatisé une sorte de travail qui a été effectué jusqu’à récemment par un processus beaucoup moins efficace et incomplet: les fans ont remarqué une utilisation non autorisée de l’image de son étoile préférée et l’ont envoyée à la gestion de cette personne, après quoi les avocats et Les agents ont négocié avec les plateformes pour supprimer le contenu blessant.
Les célébrités doivent procéder très rapidement contre Deepfkes
Ce n’est tout simplement pas suffisant dans l’environnement accéléré d’aujourd’hui, explique Arrigoni. “Vous pouvez embaucher votre cabinet d’avocats pour effectuer 15 retraits aujourd’hui, et 14 nouvelles choses sont téléchargées”, explique-t-il. Loti, en revanche, est capable de suivre la marée. “Aujourd’hui, je peux organiser mille retraits pour les 985 choses qui ont été téléchargées hier, et quelques choses sont téléchargées le matin”, dit-il.
Idéalement, les fans n’ont même pas la chance de rencontrer du contenu non licence. En attendant, les clients célèbres peuvent demander des filtres spécifiques pour intercepter le matériel qui nuit le plus à sa réputation, comme: B. Vidéos explicites DeepFake.
Bien sûr, il est un peu difficile de convaincre l’artiste de convaincre que l’IA est la solution aux problèmes d’IA que le paysage créatif a touché ces dernières années. Arrigoni doit la convaincre que Loti a combattu avec le feu. “C’est tellement embarrassant quand vous dites:” J’ai une entreprise d’IA “”, plaisante-t-il, ajoutant qu’il “s’excuse” pour la technologie. «Beaucoup de ces sociétés d’IA ont tendance à se rendre plus grandes qu’elles font du monde un meilleur endroit, des choses comme ça. Nous n’essayons pas de prétendre que nous sommes comme ça. “
Arrigoni dit des clients potentiels: “Techniquement, nous essayons d’empêcher quiconque d’utiliser l’IA pour utiliser ses revenus, leur créativité, leur marque, leur réputation.” Ils ne veulent pas seulement se protéger. “L’une des plus grandes incitations pour notre produit est que vous n’en bénéficiez pas nécessairement si vous nous payez pour cela, mais vous êtes fatigué d’être trompé.” Traitement rénal de Pitts.)
Loti n’est pas seulement utilisé par Hollywood
En plus des acteurs bien connus, Loti travaille également avec des militaires élevés, des politiciens, des PDG, des administrateurs immobiliers et un certain nombre de musiciens de Nashville, ce qui signifie que de nouveaux défis et précédents seront créés dans une variété de domaines.
Que se passe-t-il lorsque DreamWorks travaille avec une startup KI et crée une figure de film d’animation qui ressemble à une célébrité confuse à une célébrité qui n’est pas impliquée dans le projet? Certains des citoyens de la Floride, le modèle soi-disant pour les scènes du prochain “Grand Theft Auto Vi”, s’uniront-ils pour poursuivre les jeux de rockstar? Et les États agissent assez rapidement pour adopter des lois telles que la loi sur la sécurité de la voix et de l’image en ligne (Elvis) de la conduite en ligne (Elvis), qui a été signée dans une tentative révolutionnaire l’année dernière pour empêcher les voix d’être clonées et fausses illégalement?
Quoi qu’il en soit, Arrigoni veut que Lote continue de s’assurer que les “Fakes” pop-up ne sont plus “économiquement viables” comme une fraude sur Internet: “Rendez-vous plus compliqué pour les développeurs car il leur est trop facile pour le moment – que est la partie que nous voulons changer », dit-il.
Étant donné que la course aux armements se poursuit dans le domaine de l’intelligence artificielle et que d’autres concurrents entreront dans le jeu avec pleine force, il peut difficilement imaginer qu’il sera ennuyeux à l’avenir. Mais au moins une question a déjà été clarifiée: votre assistant de chat de chat ne ressemblera pas à Scarlett Johansson.