Marcas de agua en la era digital: ¿seguridad o ilusión?

Marcas de agua en la era digital: ¿seguridad o ilusión?

El rápido desarrollo de la inteligencia artificial (IA) ha provocado un auge en la creación de contenidos que a menudo resulta difícil distinguir del trabajo real. Especialmente al generar imágenes y textos, existe una necesidad urgente de identificar claramente su origen. Equipos de investigación de todo el mundo están trabajando en soluciones para identificar obras generadas por IA y combatir la difusión de información errónea.

Un tema central en esta discusión es el uso de marcas de agua. Estas tecnologías podrían ayudar a demostrar si una imagen fue generada por una IA. En los archivos de imagen se utilizan marcas de agua visibles e invisibles, y las marcas de agua semánticas se consideran particularmente sólidas. Están profundamente arraigados en el proceso de creación de una imagen y, por tanto, se consideran más difíciles de eliminar. Pero recientemente, investigadores de ciberseguridad de la Universidad del Ruhr en Bochum descubrieron lagunas de seguridad en estas marcas de agua semánticas. Los resultados se presentaron en la conferencia Computer Vision and Pattern Recognition (CVPR) el 15 de junio de 2025 en Nashville, EE. UU. Andreas Müller, miembro del equipo de investigación, explica que los atacantes pueden falsificar o eliminar marcas de agua semánticas con medios sencillos. Su equipo ha desarrollado dos nuevas opciones de ataque que amenazan estas tecnologías.

Marcas de agua digitales para textos

Paralelamente a los avances en el campo del procesamiento de imágenes, científicos de la Facultad de Medios, el Instituto Fraunhofer de Tecnología de Medios Digitales IDMT y Artefact Alemania se concentran en marcas de agua digitales para textos escritos y lenguaje hablado. Su proyecto “Lantmark” tiene como objetivo hacer reconocible el contenido automatizado para fortalecer la transparencia y la confiabilidad en los espacios de comunicación digital. La investigación se centra principalmente en la tecnología de marcas de agua de texto, que oculta las marcas en el texto para poder rastrear el origen y los posibles cambios.

Un objetivo clave de este proyecto es modificar modelos de lenguaje grandes (LLM) para que lleven una firma digital. Debería ser posible distinguir estos modelos de lenguaje de marca de los que no son de marca para detectar informes no autorizados en una etapa temprana. El proyecto está financiado con alrededor de 1,07 millones de euros por el Ministerio Federal de Educación e Investigación y forma parte de medidas para desarrollar tecnologías seguras en un mundo cada vez más interconectado.

Contexto tecnológico y desarrollos

La necesidad de marcas de agua está creciendo, especialmente a medida que las líneas entre la realidad y la ficción se vuelven cada vez más borrosas. Tecnologías como C2PA y SynthID son cada vez más importantes para reconocer mejor el contenido generado por IA. C2PA registra el origen y el procesamiento de las imágenes en los metadatos y ya cuenta con el respaldo de fabricantes de cámaras de renombre como Leica y Canon. Meta, la empresa detrás de Facebook, también planea etiquetar imágenes generadas por IA en sus plataformas.

Además, Google está trabajando en SynthID, un proceso para el etiquetado invisible de imágenes generadas por IA que se entrelaza directamente en la estructura de píxeles. Estas tecnologías tienen como objetivo promover la autenticidad del contenido y están respaldadas por iniciativas como la Content Authenticity Initiative (CAI), lanzada por empresas como Adobe y Microsoft.

El desarrollo de estas tecnologías es crucial, especialmente a medida que aumentan las disputas legales en torno al uso de contenido generado por IA. Por ejemplo, Getty Images demandó a Stability AI por el uso de más de 12 millones de imágenes de su base de datos. El New York Times hizo acusaciones similares contra OpenAI, subrayando la urgencia de establecer etiquetas claras para el contenido digital.