Les professionnels des domaines créatifs ont pris l’habitude d’empoisonner leur travail de manière astucieuse pour le protéger de l’IA.
Engloutir des photos ? Il existe un certain nombre de problèmes moraux associés aux générateurs d’images. L’image a été créée avec le générateur d’images Dall-E 3.
La prolifération de modèles linguistiques généraux a soulevé de nombreuses questions éthiques. L’un des plus importants est lié à la génération d’images, où une intelligence artificielle entraînée avec une immense banque d’images peut créer des illustrations grâce aux informations qui lui sont fournies.
Les illustrateurs, artistes et autres professionnels de la création accusent depuis longtemps les entreprises travaillant sur des générateurs d’images d’utiliser sans autorisation leurs travaux comme matériel de formation à l’intelligence artificielle. De leur côté, les entreprises et les laboratoires d’intelligence artificielle sont souvent réticents à révéler exactement quelles images ont été transmises à l’intelligence artificielle.
Des chercheurs en informatique de l’Université de Chicago ont créé un « poison » qui permet aux créateurs d’œuvres créatives de protéger leur travail contre toute utilisation non autorisée.
Le nouvel outil Nightshade « ombre » l’image au niveau des pixels de telle manière que l’intelligence artificielle pense à tort que l’image représente quelque chose de complètement différent. En revanche, à l’œil humain, les différences sont imperceptibles. De cette façon, l’intelligence artificielle peut penser qu’elle regarde un chapeau au lieu d’un gâteau ou un grille-pain au lieu d’un sac à main, Revue technologique du MIT – écrit dans son article.
Fondamentalement, une IA qui a analysé suffisamment d’images Nightshade finira par commencer à produire des images qui ne correspondent plus à l’entrée d’origine. L’équipe de recherche a réussi à exploiter la vulnérabilité de l’IA après avoir expérimenté l’alimentation d’images empoisonnées au modèle de diffusion stable qu’elle a elle-même formé.
de VentureBeat selon l’équipe qui a développé Nightshade, elle est émerveillée par la popularité de son outil. En seulement cinq jours, le poison de l’IA a collecté jusqu’à 250 000 téléchargements.
Encore plus tôt, l’équipe de recherche avait développé l’outil Glaze, qui permettait aux artistes de cacher leur style personnel au regard de l’intelligence artificielle.