Nightshade, el software que “envenena” la IA para proteger a los artistas

Compatible con Mac y Windows y descargable desde el sitio web de la Universidad de Chicago, Nightshade es un arma real para los artistas en la guerra contra la IA generativa. Y con razón se trata de “una herramienta ofensiva” destinada a “distorsionar la interpretación de una imagen que puede realizar una IA generativa”, escriben los investigadores. Suficiente para intensificar las tensiones entre los creadores de contenido y los proveedores de IA generativa.

Un “veneno” para la IA generativa

Nightshade es capaz de “envenenar” la IA generativa haciéndola reconocer elementos transformados por un juego de luces y una modificación a nivel de píxeles. Por tanto, lo que verá será totalmente diferente a la realidad: “el ojo humano verá la imagen de una vaca en un campo verde […] mientras que el modelo de IA verá un gran bolso de cuero tirado en el césped. » Engañada, la IA producirá contenidos incorrectos para sus usuarios.

Este software es una continuación de la herramienta Glaze diseñada por los mismos investigadores. Sin embargo, Glaze se limita a aplicar una capa invisible de información a la obra que imposibilita la reproducción de su estilo. Se trata, por tanto, de una “herramienta defensiva” a diferencia de Nightshade, que es una herramienta más potente y “ofensiva” capaz de “perturbar los modelos de IA” y que “los artistas pueden utilizar colectivamente”.

Sin embargo, los investigadores aconsejan a los artistas que utilicen ambas herramientas para proteger mejor sus obras. Además, anunciaron que estaban trabajando en el desarrollo de un nuevo software integrando los aportes tanto de Glaze como de Nightshade.

Poner fin a la “asimetría de poder”

La creación de Nightshade revela la preocupación de muchos artistas y creadores de contenidos por el auge de la IA generativa que se entrena libremente sobre sus obras. Sobre todo porque, como explican los investigadores, “pocas herramientas pueden evitar que su contenido se introduzca en un modelo de IA generativa contra su voluntad. Los formadores de IA han ignorado las listas de exclusión en el pasado y pueden ignorarse fácilmente sin ninguna consecuencia”.

Por eso quieren poner fin a esta “asimetría de poder” alentando a los proveedores de IA generativa a explotar únicamente contenidos no protegidos por derechos de autor o correr el riesgo de ver sus modelos de aprendizaje envenenados por Nightshade. Este enfoque es inteligente. Especialmente cuando sabemos que la jurisprudencia estadounidense actual permite que las IA se capaciten para cualquier trabajo. De hecho, como vimos en el caso entre artistas contra Stability AI, Midjourney y DeviantArt, el juez sólo prohíbe a las IA generativas reproducir contenidos similares a una obra protegida.

Estos investigadores no son los únicos que quieren abolir esta “asimetría de poder” entre la IA generativa y los creadores de contenidos, artistas o no. Actualmente, el número de disputas entre proveedores de IA generativa y titulares de derechos de contenido protegido no hace más que aumentar. Recientemente, el New York Times incluso lanzó una batalla legal titánica contra OpenAI. En su denuncia presentada el 27 de diciembre de 2023, el prestigioso periódico estadounidense estima en “varios miles de millones de dólares” los daños sufridos por la explotación abusiva de sus artículos por parte de la IA de la start-up.

Para contrarrestar esta “rebelión” contra la IA, los proveedores de IA generativa están implementando dos estrategias principales. El primero es cerrar acuerdos con propietarios de contenidos protegidos por derechos de autor, como lo hizo recientemente OpenAI con el grupo alemán Axel Springer (Bild, Die Welt, Business Insider, Politico) y la agencia de noticias Associated Press. Por una tarifa significativa, la nueva empresa ahora puede aprovechar gran parte de su contenido. El segundo es garantizar la protección de los usuarios en caso de litigio relacionado con una infracción de derechos de autor, como lo hacen Microsoft, Adobe, Shutterstock, Getty Images o incluso Google. No es suficiente para calmar las tensiones…