Marcas d’água na era digital: segurança ou ilusão?

Marcas d’água na era digital: segurança ou ilusão?

O rápido desenvolvimento da inteligência artificial (IA) desencadeou um boom na criação de conteúdos que muitas vezes são difíceis de distinguir do trabalho real. Principalmente na geração de imagens e textos, é urgente identificar com clareza a sua origem. Equipas de investigação em todo o mundo estão a trabalhar em soluções para identificar obras geradas por IA e combater a propagação de desinformação.

Um tópico central nesta discussão é o uso de marcas d’água. Essas tecnologias poderiam ajudar a provar se uma imagem foi gerada por uma IA. Marcas d’água visíveis e invisíveis são usadas em arquivos de imagem, sendo as marcas d’água semânticas consideradas particularmente robustas. Eles estão profundamente enraizados no processo de criação de uma imagem e, portanto, são considerados mais difíceis de remover. Mas recentemente, investigadores de segurança cibernética da Ruhr University Bochum descobriram lacunas de segurança nestas marcas de água semânticas. Os resultados foram apresentados na conferência Computer Vision and Pattern Recognition (CVPR) em 15 de junho de 2025 em Nashville, EUA. Andreas Müller, parte da equipe de pesquisa, explica que os invasores podem falsificar ou remover marcas d’água semânticas usando meios simples. Sua equipe desenvolveu duas novas opções de ataque que ameaçam essas tecnologias.

Marcas d'água digitais para textos

Paralelamente aos desenvolvimentos no campo do processamento de imagens, cientistas da Faculdade de Mídia, do Instituto Fraunhofer de Tecnologia de Mídia Digital IDMT e da Artefact Germany estão se concentrando em marcas d'água digitais para textos escritos e linguagem falada. Seu projeto “Lantmark” visa tornar reconhecíveis os conteúdos automatizados, a fim de fortalecer a transparência e a confiabilidade nos espaços de comunicação digital. A pesquisa se concentra principalmente na tecnologia de marca d’água de texto, que oculta marcações no texto para tornar rastreáveis ​​a origem e possíveis alterações.

Um objetivo principal deste projeto é modificar grandes modelos de linguagem (LLMs) para transportar uma assinatura digital. Deveria ser possível distinguir estes modelos de linguagem de marca dos modelos sem marca, a fim de detectar denúncias não autorizadas numa fase inicial. O projeto é financiado com cerca de 1,07 milhões de euros pelo Ministério Federal da Educação e Investigação e faz parte de medidas para desenvolver tecnologias seguras num mundo cada vez mais interligado.

Contexto tecnológico e desenvolvimentos

A necessidade de marcas d'água está crescendo, especialmente à medida que as linhas entre a realidade e a ficção se tornam cada vez mais confusas. Tecnologias como C2PA e SynthID estão se tornando cada vez mais importantes para melhor reconhecer o conteúdo gerado por IA. O C2PA registra a origem e o processamento das imagens nos metadados e já conta com suporte de renomados fabricantes de câmeras como Leica e Canon. A Meta, empresa por trás do Facebook, também planeja rotular imagens geradas por IA em suas plataformas.

Além disso, o Google está trabalhando no SynthID, um processo para rotulagem invisível de imagens geradas por IA que é integrado diretamente na estrutura de pixels. Estas tecnologias visam promover a autenticidade dos conteúdos e são apoiadas por iniciativas como a Content Authenticity Initiative (CAI), lançada por empresas como Adobe e Microsoft.

O desenvolvimento destas tecnologias é crucial, especialmente à medida que aumentam as disputas legais em torno da utilização de conteúdos gerados por IA. Por exemplo, a Getty Images processou a Stability AI pelo uso de mais de 12 milhões de imagens de seu banco de dados. Alegações semelhantes foram feitas contra a OpenAI pelo New York Times, sublinhando a urgência de estabelecer rótulos claros para o conteúdo digital.