Nightshade, la herramienta que ayuda a los artistas contra las IA

STEPHANIE ARNETT/MITTR | REIJKSMUSEUM, ENVATO

Una nueva herramienta permite a los artistas agregar cambios invisibles a los píxeles de su arte antes de subirlo en línea, de modo que podrá romper el entrenamiento de la Inteligencia Artificial. Esta herramienta es un aliado para los creadores, se trata de Nightshade.  Lo que pretende es ser una forma de luchar contra las compañías de IA que usan el trabajo de artistas sin su permiso. 

Se podrá dañar futuras iteraciones de modelos de IA generadores de imágenes, como DALL-E, Midjourney y Stable Diffusion, al hacer que algunas de sus salidas sean inútiles. Según información del MIT Technology Review esta herramienta se ha presentado para revisión por pares en la conferencia de seguridad informática Usenix.

Las compañías de IA como OpenAI, Meta, Google y Stability AI se enfrentan a una serie de demandas de artistas que afirman que sus materiales con derechos de autor e información personal fue utilizado sin consentimiento o compensación. Ben Zhao, profesor de la Universidad de Chicago, quien dirigió el equipo que creó Nightshade, dice que la esperanza es que ayude a inclinar el equilibrio de poder de las compañías de IA hacia los artistas, creando un poderoso elemento disuasorio contra la falta de respeto a los artistas’ por los derechos de autor y la propiedad intelectual. 

 Meta, Google, Stability AI y OpenAI no respondieron a la solicitud de comentarios de MIT Technology Review sobre cómo podrían responder. 

El equipo de Zhao también se desarrolló Glaseado, una herramienta que permite a los artistas “enmascarar” su propio estilo personal para evitar que sea usado por las empresas de IA. Funciona de manera similar a Nightshade: cambiando los píxeles de las imágenes de manera sutil que son invisibles para el ojo humano, pero manipulan modelos de aprendizaje automático para interpretar la imagen como algo diferente de lo que realmente muestra. 

Fuente: MIT con información de Melissa Heikkiläarchive