Los científicos informáticos de la Universidad de Chicago desarrollaron la herramienta para ayudar a los artistas a proteger sus imágenes. La IA se usa contra la IA a través de Nightshade (‘belleza mora’, que lleva el nombre de la familia de plantas parcialmente venenosas). La aplicación añade sutilmente una “etiqueta” que cambia una imagen a nivel de píxel para los programas de IA.
El ejemplo dado por los investigadores ciertamente apela a la imaginación: ‘El ojo humano ve, por ejemplo, la imagen de una vaca en un prado verde, lo cual no resulta muy extraño. Pero un modelo de IA puede ver una gran cartera de cuero en un campo de hierba.’
Sobre el autor
Anna van Leeuwen es editora de arte en de Volkskrant. Escribe sobre exposiciones, museos, artistas y el mercado del arte.
La artista Eva Toorenent está contenta con la nueva aplicación: “Este tipo de iniciativas me dan valor”. Bajo el nombre de Gremio Europeo de Regulación de la Inteligencia Artificial, ella y otros artistas europeos luchan por una legislación restrictiva más clara para la generación de imágenes mediante IA.
Canibalismo
Los generadores de imágenes de IA, como Midjourney y Dall-E, buscan imágenes en Internet sin tener en cuenta los derechos de autor. Luego generan imágenes digitales por casi nada, creadas a partir de fotografías y obras de arte creadas por otros. Esto crea una especie de canibalismo, dice Toorenent: “Los generadores de imágenes de IA reemplazan el trabajo de los artistas con su propio trabajo, y eso no es ético”.
Sus propias obras de arte, que crea principalmente con acuarela, también terminaron en el ‘conjunto de datos’ de este tipo de programas. Cuando Toorenent se enteró el año pasado de que Chicago estaba trabajando en una aplicación que podría proteger imágenes, al principio se mostró escéptica. “Pensé: eso nunca puede funcionar”. Pero lleva meses utilizando un precursor de Nightshade, Glaze, para proteger sus imágenes.
Esa solicitud también provino del grupo de investigación de Chicago. Herramientas como Glaze y Nightshade no lo solucionan todo, subraya Toorenent. ‘Todavía tenemos mucho trabajo por hacer para proteger a los artistas. El lobby de las empresas de IA es muy fuerte, la batalla aún no ha terminado, pero vamos por buen camino.’
Atacante y persistente
Los propios científicos califican la estrategia de Nightshade de “ofensiva”. El uso de la nueva aplicación puede causar que los modelos de IA se confundan permanentemente y también categoricen erróneamente imágenes que no han sido alteradas por Nightshade. Además, Nightshade es persistente: la “sombra” no se puede eliminar con pulido. Toorenent: “Puedes recortar, copiar, comprimir, suavizar píxeles o agregar ruido a la imagen, y los efectos del gif permanecen”.
Los críticos comparan Nightshade con el malware. Los informáticos enfatizan que la herramienta no fue creada para destruir modelos de IA, sino para garantizar que los artistas reciban un pago y se solicite permiso para utilizar su trabajo.
Actualmente hay tanta demanda de la aplicación que los servidores de la Universidad de Chicago se han sobrecargado. Algunas personas pasaron ocho horas descargando el programa. Toorenent tuvo suerte: una de sus obras de arte fue elegida para ser “tratada” en primer lugar. Se trata de un óleo en el que una figura con una calavera lleva al hombro una flor de pantalla de lobo de la que emerge una luz.
Toorenent: ‘Este es Nightshade-arte de fan, porque estoy muy feliz con la llegada del programa.’ La pintura también contiene un guiño a la IA: “Los generadores de imágenes de IA suelen ser torpes a la hora de hacer manos, así que agregué algunas plantas de dedos a la izquierda que recuerdan a manos deformes”.