Mucho hemos hablado de cómo la IA está cogiendo el arte presente en toda internet para crear sus propias creaciones. Obviamente, estas no son originales, solo un popurrí de imágenes ya existentes. Esto lleva de cabeza a millones de artistas, quienes ahora podrían vengarse de la mejor manera.
Los artistas podrían disponer pronto de una nueva arma para evitar que sus obras se conviertan en carne de cañón del aprendizaje automático.
La herramienta, llamada Nightshade, introduce pequeños cambios en los píxeles de una obra de arte digital para “envenenarla” y hacerla inútil para el entrenamiento de la IA.
Así funciona una herramienta que podría cambiar el paradigma actual
El MIT Technology Review informa de que un equipo dirigido por Ben Zhao, profesor de la Universidad de Chicago, presentó Nightshade para su revisión en la conferencia de seguridad informática USENIX.
El programa funciona realizando pequeñas modificaciones en una imagen que, aunque invisibles al ojo humano, hacen que los algoritmos de IA las identifiquen de forma completamente errónea.
Por ejemplo, un artista puede pintar un cuadro de un gato que cualquier humano o IA que lo examine puede identificar claramente como un felino. Sin embargo, al aplicar Nightshade, los humanos seguirán viendo la misma imagen mientras que la IA creerá erróneamente que se trata de un perro.
Y explican que si se inundan a la IA con suficiente material de entrenamiento malo como este, pronto una petición de una imagen de un gato hará que genere un perro en su lugar.
Por supuesto, es poco probable que una sola imagen envenenada tenga un efecto significativo en el algoritmo de un generador de imágenes de IA. Sus datos de entrenamiento tendrían que ser contaminados por miles de imágenes alteradas antes de que se apreciara un impacto real.
Sin embargo, se sabe que los generadores de imágenes de IA recogen indiscriminadamente miles de nuevas muestras de Internet para perfeccionar su algoritmo. Si un número suficiente de artistas suben sus imágenes con Nightshade aplicado, podrían llegar a inutilizar estas herramientas de IA.
