Los profesionales de los campos creativos han decidido envenenar su trabajo de una manera astuta para protegerlo de la IA.
¿Engullir fotografías? Hay una serie de problemas morales asociados con los generadores de imágenes. La imagen fue creada con el generador de imágenes Dall-E 3.
La proliferación de modelos lingüísticos amplios ha planteado muchas cuestiones éticas. Uno de los más significativos está relacionado con la generación de imágenes, donde una inteligencia artificial entrenada con un enorme banco de imágenes puede crear ilustraciones a partir de los inputs que se le dan.
Ilustradores, artistas y otros profesionales creativos llevan mucho tiempo acusando a las empresas que trabajan con generadores de imágenes de utilizar sus trabajos sin autorización como material de formación para la inteligencia artificial. Por su parte, las empresas y los laboratorios de inteligencia artificial a menudo se muestran reacios a revelar exactamente qué imágenes se han introducido en la inteligencia artificial.
Investigadores de informática de la Universidad de Chicago han creado un «veneno» que permite a los creadores de trabajos creativos proteger su trabajo del uso no autorizado.
La nueva herramienta Nightshade «sombrea» la imagen a nivel de píxeles de tal manera que la inteligencia artificial piensa erróneamente que la imagen representa algo completamente diferente. Para el ojo humano, en cambio, las diferencias son imperceptibles. De esta forma la inteligencia artificial puede pensar que está mirando un sombrero en lugar de una tarta o una tostadora en lugar de un bolso. Revisión de tecnología del MIT – escribe en su artículo.
Básicamente, una IA que ha analizado suficientes imágenes de Nightshade eventualmente comenzará a producir imágenes que ya no coinciden con la entrada original. El equipo de investigación logró explotar la vulnerabilidad de la IA después de experimentar alimentando imágenes envenenadas al modelo de Difusión Estable que ellos mismos entrenaron.
de VentureBeat Según el equipo que desarrolló Nightshade está sorprendido por la popularidad de su herramienta. En solo cinco días, el veneno de IA obtuvo hasta 250.000 descargas.
Incluso antes, el equipo de investigación desarrolló la herramienta Glaze, que permitía a los artistas ocultar su estilo personal a la mirada de la inteligencia artificial.