Adobe propone una forma de proteger a los artistas de las estafas de la IA
Como motor que impulsa a los artistas digitales del mundo, Adobe tiene la gran responsabilidad de mitigar el aumento de los deepfakes, la desinformación y el robo de contenidos impulsados por la IA. En el primer trimestre de 2025, Adobe lanzará su aplicación web Content Authenticity en versión beta, que permitirá a los creadores aplicar credenciales de contenido a su trabajo, certificándolo como propio.
Esto no es tan simple como alterar los metadatos de una imagen; ese tipo de protección se frustra fácilmente con capturas de pantalla. Las credenciales de contenido llevan la procedencia un paso más allá. El sistema de Adobe utiliza huellas digitales, marcas de agua invisibles y metadatos firmados criptográficamente para proteger de forma más segura una obra de arte, incluidas imágenes, videos y archivos de audio.
Las marcas de agua invisibles realizan cambios en los píxeles que son tan diminutos que evaden la detección del ojo humano. La huella digital funciona de manera similar, codificando una identificación en el archivo para garantizar que incluso si se eliminan las credenciales del contenido, el archivo aún pueda identificarse como perteneciente a su creador original.
El director senior de autenticidad de contenido de Adobe, Andy Parsons, dijo a TechCrunch que con este tipo de tecnología, Adobe puede “verdaderamente decir que dondequiera que vaya una imagen, un vídeo o un archivo de audio, en cualquier lugar de la web o en un dispositivo móvil, el La credencial de contenido siempre estará adjunta”.
Iniciativas de participación voluntaria como esta son tan sólidas como su adopción. Pero si alguna empresa puede alcanzar el quórum de artistas y creadores digitales, esa es Adobe, que tiene 33 millones de suscriptores que pagan por su software. E incluso los artistas que no son usuarios de Adobe pueden utilizar la aplicación web para aplicar credenciales de contenido.
Luego está la cuestión de hacer que las credenciales de contenido sean accesibles a través de Internet. Adobe cofundó dos grupos industriales que trabajan para preservar la autenticidad del contenido y reforzar la confianza y la transparencia en línea; entre sus miembros se incluyen fabricantes de cámaras que representan el 90% del mercado, herramientas de creación de contenido de Microsoft y OpenAI, y plataformas como TikTok, LinkedIn, Google, Instagram y Facebook. La membresía de estas empresas no significa que integrarán las credenciales de contenido de Adobe en sus productos, pero sí significa que Adobe tiene sus oídos.
Aún así, no todas las plataformas de redes sociales y sitios web muestran visiblemente información de procedencia.
“Mientras tanto, para cerrar esa brecha, vamos a lanzar la extensión del navegador Content Authenticity para Chrome como parte de este paquete de software, y también algo que llamamos herramienta Inspect dentro del sitio web Adobe Content Authenticity”, dijo Parsons. “Esto le ayudará a descubrir y mostrar credenciales de contenido dondequiera que estén asociadas con el contenido en cualquier lugar de la web, y eso puede mostrarle nuevamente quién creó el contenido y quién recibe el crédito por él”.
Irónicamente, la IA no es muy buena para saber si algo es IA o no. A medida que se vuelve más difícil distinguir las imágenes reales de las sintéticas, estas herramientas podrían ofrecer un método más concreto para determinar el origen de una imagen (siempre que tenga credenciales).
Adobe no está en contra del uso de la IA. Más bien, la empresa está tratando de dejar claro cuándo se utiliza IA en una obra de arte y evitar que el trabajo de los artistas se utilice en conjuntos de datos de entrenamiento sin consentimiento. Adobe incluso tiene su propia herramienta de inteligencia artificial generativa llamada Firefly, que se entrena con imágenes de Adobe Stock.
“Firefly es comercialmente seguro y sólo lo entrenamos en contenido para el que Adobe tiene permiso explícito para usar y, por supuesto, nunca en contenido de clientes”, dijo Parsons.
Aunque los artistas han mostrado una gran resistencia a las herramientas de inteligencia artificial, Parsons dice que las integraciones de Adobe Firefly en aplicaciones como Photoshop y Lightroom han recibido comentarios positivos. La función de relleno generativo de Photoshop, que puede ampliar las imágenes mediante indicaciones, registró una tasa de adopción 10 veces mayor que una función típica de Photoshop, dijo Parsons.
Adobe también ha estado trabajando con Spawning, otra herramienta para ayudar a los artistas a mantener el control sobre cómo se utilizan sus obras en línea. A través de su sitio web llamado “¿He sido entrenado?”, Spawning permite a los artistas buscar si sus obras de arte están presentes en los conjuntos de datos de entrenamiento más populares. Los artistas pueden agregar sus obras a un registro No entrenar, lo que indica a las empresas de inteligencia artificial que este trabajo no debe incluirse en los conjuntos de datos de capacitación. Esto sólo es efectivo si las empresas de IA cumplen con la lista, pero hasta ahora, HuggingFace y Stability están a bordo.
El martes, Adobe lanzará la versión beta de la extensión Content Authenticity Chrome. Los creadores también pueden registrarse para recibir una notificación cuando se lance la versión beta de la aplicación web completa el próximo año.