Znaki wodne w epoce cyfrowej: bezpieczeństwo czy iluzja?

Znaki wodne w epoce cyfrowej: bezpieczeństwo czy iluzja?

Szybki rozwój sztucznej inteligencji (AI) spowodował boom w tworzeniu treści, które często trudno odróżnić od prawdziwej pracy. Szczególnie przy generowaniu obrazów i tekstów istnieje pilna potrzeba jasnego określenia ich pochodzenia. Zespoły badawcze na całym świecie pracują nad rozwiązaniami umożliwiającymi identyfikację dzieł generowanych przez sztuczną inteligencję i walkę z rozprzestrzenianiem się dezinformacji.

Głównym tematem tej dyskusji jest użycie znaków wodnych. Technologie te mogą pomóc w udowodnieniu, czy obraz został wygenerowany przez sztuczną inteligencję. W plikach obrazów stosowane są widoczne i niewidoczne znaki wodne, przy czym semantyczne znaki wodne są uważane za szczególnie niezawodne. Są one głęboko osadzone w procesie tworzenia wizerunku i dlatego uważane są za trudniejsze do usunięcia. Jednak niedawno badacze cyberbezpieczeństwa z Uniwersytetu Ruhr w Bochum odkryli luki w zabezpieczeniach tych semantycznych znaków wodnych. Wyniki zaprezentowano na konferencji Computer Vision and Pattern Recognition (CVPR), która odbyła się 15 czerwca 2025 r. w Nashville w USA. Andreas Müller, członek zespołu badawczego, wyjaśnia, że ​​osoby atakujące mogą w prosty sposób sfałszować lub usunąć semantyczne znaki wodne. Jego zespół opracował dwie nowe opcje ataku, które zagrażają tym technologiom.

Cyfrowe znaki wodne do tekstów

Równolegle z rozwojem w dziedzinie przetwarzania obrazu naukowcy z Wydziału Mediów, Instytutu Fraunhofera ds. Technologii Mediów Cyfrowych IDMT i Artefact Germany koncentrują się na cyfrowych znakach wodnych dla tekstów pisanych i języka mówionego. Twój projekt „Lantmark” ma na celu zapewnienie rozpoznawalności zautomatyzowanych treści w celu wzmocnienia przejrzystości i wiarygodności w przestrzeniach komunikacji cyfrowej. Badania skupiają się przede wszystkim na technologii tekstowych znaków wodnych, która polega na ukrywaniu oznaczeń w tekście, aby umożliwić prześledzenie pochodzenia i ewentualnych zmian.

Kluczowym celem tego projektu jest modyfikacja dużych modeli językowych (LLM), aby można było przenosić podpis cyfrowy. Powinna istnieć możliwość odróżnienia tych modeli języka markowego od modeli języka niemarkowego, aby na wczesnym etapie wykryć nieautoryzowane zgłoszenia. Projekt jest finansowany kwotą około 1,07 miliona euro przez Federalne Ministerstwo Edukacji i Badań Naukowych i stanowi część działań mających na celu rozwój bezpiecznych technologii w świecie coraz bardziej usieciowionym.

Kontekst i rozwój technologiczny

Zapotrzebowanie na znaki wodne rośnie, zwłaszcza że granice między rzeczywistością a fikcją coraz bardziej się zacierają. Technologie takie jak C2PA i SynthID stają się coraz ważniejsze, aby lepiej rozpoznawać treści generowane przez sztuczną inteligencję. C2PA rejestruje pochodzenie i przetwarzanie obrazów w metadanych i jest już obsługiwana przez renomowanych producentów aparatów, takich jak Leica i Canon. Meta, firma stojąca za Facebookiem, planuje również oznaczać na swoich platformach obrazy wygenerowane przez sztuczną inteligencję.

Ponadto Google pracuje nad SynthID, procesem niewidocznego oznaczania obrazów generowanych przez sztuczną inteligencję, wplecionego bezpośrednio w strukturę pikseli. Technologie te mają na celu promowanie autentyczności treści i są wspierane przez inicjatywy takie jak Inicjatywa na rzecz autentyczności treści (CAI), uruchomiona przez takie firmy jak Adobe i Microsoft.

Rozwój tych technologii jest kluczowy, zwłaszcza w obliczu nasilających się sporów prawnych wokół wykorzystania treści generowanych przez sztuczną inteligencję. Na przykład firma Getty Images pozwała Stability AI w związku z wykorzystaniem przez nią ponad 12 milionów obrazów ze swojej bazy danych. Podobne zarzuty postawił OpenAI New York Times, podkreślając pilną potrzebę ustanowienia jasnych etykiet dla treści cyfrowych.