Vodeni žigovi u digitalnom dobu: sigurnost ili iluzija?

Vodeni žigovi u digitalnom dobu: sigurnost ili iluzija?

Brzi razvoj umjetne inteligencije (AI) izazvao je procvat u stvaranju sadržaja koji je često teško razlikovati od stvarnog rada. Osobito kod generiranja slika i tekstova, hitno je potrebno jasno identificirati njihovo podrijetlo. Istraživački timovi diljem svijeta rade na rješenjima za prepoznavanje radova generiranih umjetnom inteligencijom i borbu protiv širenja dezinformacija.

Središnja tema ove rasprave je korištenje vodenih žigova. Ove tehnologije mogle bi pomoći u dokazivanju je li sliku generirala umjetna inteligencija. Vidljivi i nevidljivi vodeni žigovi koriste se u slikovnim datotekama, pri čemu se semantički vodeni žigovi smatraju posebno robusnim. Oni su duboko ugrađeni u proces stvaranja slike i stoga ih je teže ukloniti. No nedavno su istraživači kibernetičke sigurnosti na Sveučilištu Ruhr Bochum otkrili sigurnosne nedostatke u tim semantičkim vodenim žigovima. Rezultati su predstavljeni na konferenciji Computer Vision and Pattern Recognition (CVPR) 15. lipnja 2025. u Nashvilleu, SAD. Andreas Müller, dio istraživačkog tima, objašnjava da napadači mogu krivotvoriti ili ukloniti semantičke vodene žigove koristeći jednostavna sredstva. Njegov tim je razvio dvije nove opcije napada koje prijete tim tehnologijama.

Digitalni vodeni žigovi za tekstove

Paralelno s razvojem u području obrade slike, znanstvenici s Fakulteta za medije, Fraunhofer instituta za tehnologiju digitalnih medija IDMT i Artefact Njemačka koncentriraju se na digitalne vodene žigove za pisane tekstove i govorni jezik. Vaš projekt “Lantmark” ima za cilj učiniti automatski sadržaj prepoznatljivim kako bi se ojačala transparentnost i pouzdanost u digitalnim komunikacijskim prostorima. Istraživanje se prvenstveno fokusira na tehnologiju tekstualnih vodenih žigova, koja skriva oznake u tekstu kako bi se podrijetlo i moguće promjene mogle pratiti.

Ključni cilj ovog projekta je modificiranje velikih jezičnih modela (LLM) da nose digitalni potpis. Trebalo bi biti moguće razlikovati ove jezične modele s markom od onih bez marke kako bi se u ranoj fazi otkrila neovlaštena izvješća. Projekt financira Savezno ministarstvo obrazovanja i istraživanja s oko 1,07 milijuna eura i dio je mjera za razvoj sigurnih tehnologija u sve umreženijem svijetu.

Tehnološki kontekst i razvoj

Potreba za vodenim žigovima je sve veća, pogotovo jer granice između stvarnosti i fikcije postaju sve nejasnije. Tehnologije kao što su C2PA i SynthID postaju sve važnije za bolje prepoznavanje sadržaja generiranog umjetnom inteligencijom. C2PA bilježi porijeklo i obradu slika u metapodacima i već ga podržavaju renomirani proizvođači fotoaparata kao što su Leica i Canon. Meta, tvrtka koja stoji iza Facebooka, također planira označavati slike generirane umjetnom inteligencijom na svojim platformama.

Osim toga, Google radi na SynthID-u, procesu za nevidljivo označavanje slika generiranih umjetnom inteligencijom koji je utkan izravno u strukturu piksela. Ove tehnologije imaju za cilj promovirati autentičnost sadržaja i podržavaju ih inicijative kao što je Content Authenticity Initiative (CAI), koju su pokrenule tvrtke kao što su Adobe i Microsoft.

Razvoj ovih tehnologija od ključne je važnosti, posebice s obzirom da se povećavaju pravni sporovi oko upotrebe sadržaja generiranog umjetnom inteligencijom. Na primjer, Getty Images tužio je Stability AI zbog korištenja preko 12 milijuna slika iz svoje baze podataka. New York Times iznio je slične optužbe protiv OpenAI-ja, naglašavajući hitnost uspostavljanja jasnih oznaka za digitalni sadržaj.