Vandenženkliai skaitmeniniame amžiuje: saugumas ar iliuzija?

Vandenženkliai skaitmeniniame amžiuje: saugumas ar iliuzija?

Spartus dirbtinio intelekto (DI) vystymasis paskatino turinio kūrimo bumą, kurį dažnai sunku atskirti nuo tikro darbo. Ypač generuojant vaizdus ir tekstus reikia skubiai aiškiai nustatyti jų kilmę. Mokslininkų grupės visame pasaulyje ieško sprendimų, kaip identifikuoti dirbtinio intelekto sukurtus kūrinius ir kovoti su dezinformacijos plitimu.

Pagrindinė šios diskusijos tema yra vandens ženklų naudojimas. Šios technologijos galėtų padėti įrodyti, ar vaizdas buvo sukurtas dirbtinio intelekto. Vaizdo failuose naudojami matomi ir nematomi vandens ženklai, o semantiniai vandens ženklai laikomi ypač tvirtais. Jie yra giliai įterpti į vaizdo kūrimo procesą, todėl manoma, kad juos sunkiau pašalinti. Tačiau neseniai Bochumo Rūro universiteto kibernetinio saugumo tyrinėtojai šiuose semantiniuose vandens ženkluose aptiko saugumo spragas. Rezultatai buvo pristatyti 2025 m. birželio 15 d. Nešvilyje (JAV) vykusioje konferencijoje „Computer Vision and Pattern Recognition“ (CVPR). Andreasas Mülleris, tyrimo grupės narys, paaiškina, kad užpuolikai gali suklastoti arba pašalinti semantinius vandens ženklus naudodami paprastas priemones. Jo komanda sukūrė dvi naujas atakos galimybes, kurios kelia grėsmę šioms technologijoms.

Skaitmeniniai vandens ženklai tekstams

Lygiagrečiai tobulėjant vaizdo apdorojimo srityje, Medijų fakulteto, Fraunhoferio Skaitmeninės medijos technologijos instituto IDMT ir Vokietijos „Artefact“ mokslininkai daugiausia dėmesio skiria skaitmeniniams rašytinių tekstų ir šnekamosios kalbos vandenženkliams. Jūsų projektu „Lantmark“ siekiama padaryti automatizuotą turinį atpažįstamą, siekiant sustiprinti skaidrumą ir patikimumą skaitmeninėse komunikacijos erdvėse. Tyrimo metu daugiausia dėmesio skiriama teksto vandens ženklų technologijai, kuri paslepia žymes tekste, kad būtų galima atsekti kilmę ir galimus pakeitimus.

Pagrindinis šio projekto tikslas – modifikuoti didelių kalbų modelius (LLM), kad būtų galima turėti skaitmeninį parašą. Turėtų būti įmanoma atskirti šiuos firminius kalbų modelius nuo neprekių ženklų, kad būtų galima anksti aptikti neteisėtus pranešimus. Projektą finansuoja maždaug 1,07 milijono eurų Federalinė švietimo ir mokslinių tyrimų ministerija ir yra dalis priemonių, skirtų saugioms technologijoms plėtoti vis labiau tinklenčiame pasaulyje.

Technologinis kontekstas ir raida

Vandenženklių poreikis auga, ypač dėl to, kad ribos tarp tikrovės ir fantastikos tampa vis labiau neryškios. Tokios technologijos kaip C2PA ir SynthID tampa vis svarbesnės siekiant geriau atpažinti AI sukurtą turinį. C2PA įrašo vaizdų kilmę ir apdorojimą metaduomenyse ir jau palaiko žinomų fotoaparatų gamintojų, tokių kaip Leica ir Canon. „Facebook“ kompanija „Meta“ taip pat planuoja savo platformose pažymėti dirbtinio intelekto sukurtus vaizdus.

Be to, „Google“ kuria „SynthID“ – nematomo dirbtinio intelekto sukurtų vaizdų žymėjimo procesą, kuris yra įaustas tiesiai į pikselių struktūrą. Šiomis technologijomis siekiama skatinti turinio autentiškumą ir jas remia tokios iniciatyvos kaip „Content Authenticity Initiative“ (CAI), kurią pradėjo tokios įmonės kaip „Adobe“ ir „Microsoft“.

Šių technologijų plėtra yra itin svarbi, ypač didėjant teisiniams ginčams dėl dirbtinio intelekto sukurto turinio naudojimo. Pavyzdžiui, „Getty Images“ padavė į teismą „Stability AI“ dėl to, kad ji panaudojo daugiau nei 12 milijonų vaizdų iš savo duomenų bazės. Panašius kaltinimus OpenAI pateikė New York Times, pabrėždamas, kad būtina skubiai nustatyti aiškias skaitmeninio turinio etiketes.