\n<\/p>\n
Compatible con Mac y Windows y descargable desde el sitio web de la Universidad de Chicago, Nightshade es un arma real para los artistas en la guerra contra la IA generativa. Y con raz\u00f3n, se trata de \u201cuna herramienta ofensiva\u201d destinada a \u201cdistorsionar la interpretaci\u00f3n de una imagen que una IA puede realizar\u2026<\/p>\n
Compatible con Mac y Windows y descargable desde el sitio web de la Universidad de Chicago, Nightshade es un arma real para los artistas en la guerra contra la IA generativa. Y con raz\u00f3n se trata de \u201cuna herramienta ofensiva\u201d destinada a \u201cdistorsionar la interpretaci\u00f3n de una imagen que puede realizar una IA generativa\u201d, escriben los investigadores. Suficiente para intensificar las tensiones entre los creadores de contenido y los proveedores de IA generativa.<\/p>\n
Nightshade es capaz de \u201cenvenenar\u201d la IA generativa haci\u00e9ndola reconocer elementos transformados por un juego de luces y una modificaci\u00f3n a nivel de p\u00edxeles. Por tanto, lo que ver\u00e1 ser\u00e1 totalmente diferente a la realidad: “el ojo humano ver\u00e1 la imagen de una vaca en un campo verde [\u2026] mientras que el modelo de IA ver\u00e1 un gran bolso de cuero tirado en el c\u00e9sped. \u00bb Enga\u00f1ada, la IA producir\u00e1 contenidos incorrectos para sus usuarios.<\/p>\n
Este software es una continuaci\u00f3n de la herramienta Glaze dise\u00f1ada por los mismos investigadores. Sin embargo, Glaze se limita a aplicar una capa invisible de informaci\u00f3n a la obra que imposibilita la reproducci\u00f3n de su estilo. Se trata, por tanto, de una \u201cherramienta defensiva\u201d a diferencia de Nightshade, que es una herramienta m\u00e1s potente y \u201cofensiva\u201d capaz de \u201cperturbar los modelos de IA\u201d y que \u201clos artistas pueden utilizar colectivamente\u201d.<\/p>\n
Sin embargo, los investigadores aconsejan a los artistas que utilicen ambas herramientas para proteger mejor sus obras. Adem\u00e1s, anunciaron que estaban trabajando en el desarrollo de un nuevo software integrando los aportes tanto de Glaze como de Nightshade.<\/p>\n
La creaci\u00f3n de Nightshade revela la preocupaci\u00f3n de muchos artistas y creadores de contenidos por el auge de la IA generativa que se entrena libremente sobre sus obras. Sobre todo porque, como explican los investigadores, \u201cpocas herramientas pueden evitar que su contenido se introduzca en un modelo de IA generativa contra su voluntad. Los formadores de IA han ignorado las listas de exclusi\u00f3n en el pasado y pueden ignorarse f\u00e1cilmente sin ninguna consecuencia\u201d.<\/p>\n
Por eso quieren poner fin a esta \u201casimetr\u00eda de poder\u201d alentando a los proveedores de IA generativa a explotar \u00fanicamente contenidos no protegidos por derechos de autor o correr el riesgo de ver sus modelos de aprendizaje envenenados por Nightshade. Este enfoque es inteligente. Especialmente cuando sabemos que la jurisprudencia estadounidense actual permite que las IA se capaciten para cualquier trabajo. De hecho, como vimos en el caso entre artistas contra Stability AI, Midjourney y DeviantArt, el juez s\u00f3lo proh\u00edbe a las IA generativas reproducir contenidos similares a una obra protegida.<\/p>\n
Estos investigadores no son los \u00fanicos que quieren abolir esta \u201casimetr\u00eda de poder\u201d entre la IA generativa y los creadores de contenidos, artistas o no. Actualmente, el n\u00famero de disputas entre proveedores de IA generativa y titulares de derechos de contenido protegido no hace m\u00e1s que aumentar. Recientemente, el New York Times incluso lanz\u00f3 una batalla legal tit\u00e1nica contra OpenAI. En su denuncia presentada el 27 de diciembre de 2023, el prestigioso peri\u00f3dico estadounidense estima en \u201cvarios miles de millones de d\u00f3lares\u201d los da\u00f1os sufridos por la explotaci\u00f3n abusiva de sus art\u00edculos por parte de la IA de la start-up.<\/p>\n
Para contrarrestar esta \u201crebeli\u00f3n\u201d contra la IA, los proveedores de IA generativa est\u00e1n implementando dos estrategias principales. El primero es cerrar acuerdos con propietarios de contenidos protegidos por derechos de autor, como lo hizo recientemente OpenAI con el grupo alem\u00e1n Axel Springer (Bild, Die Welt, Business Insider, Politico) y la agencia de noticias Associated Press. Por una tarifa significativa, la nueva empresa ahora puede aprovechar gran parte de su contenido. El segundo es garantizar la protecci\u00f3n de los usuarios en caso de litigio relacionado con una infracci\u00f3n de derechos de autor, como lo hacen Microsoft, Adobe, Shutterstock, Getty Images o incluso Google. No es suficiente para calmar las tensiones…<\/p>\n<\/div>\n