Vesimärgid digiajastul: turvalisus või illusioon?

Vesimärgid digiajastul: turvalisus või illusioon?

Tehisintellekti (AI) kiire areng on vallandanud buumi sisu loomisel, mida on sageli raske eristada tegelikust tööst. Eriti piltide ja tekstide genereerimisel on tungiv vajadus nende päritolu selgelt tuvastada. Uurimisrühmad üle maailma töötavad lahenduste kallal, et tuvastada tehisintellekti loodud teoseid ja võidelda valeinformatsiooni levikuga.

Selle arutelu keskne teema on vesimärkide kasutamine. Need tehnoloogiad võivad aidata tõestada, kas pildi on loonud tehisintellekt. Pildifailides kasutatakse nähtavaid ja nähtamatuid vesimärke, kusjuures semantilisi vesimärke peetakse eriti tugevateks. Need on pildi loomise protsessi sügavalt sisse lülitatud ja seetõttu peetakse neid raskemini eemaldatavaks. Kuid hiljuti avastasid Ruhri ülikooli Bochumi küberturvalisuse teadlased nendes semantilistes vesimärkides turvalüngad. Tulemusi esitleti 15. juunil 2025 USA-s Nashville'is toimunud konverentsil Computer Vision and Pattern Recognition (CVPR). Uurimisrühma kuuluv Andreas Müller selgitab, et ründajad saavad lihtsate vahenditega semantilisi vesimärke võltsida või eemaldada. Tema meeskond on välja töötanud kaks uut rünnakuvõimalust, mis neid tehnoloogiaid ohustavad.

Digitaalsed vesimärgid tekstidele

Paralleelselt pilditöötluse valdkonna arengutega keskenduvad meediateaduskonna, Fraunhoferi digitaalmeediatehnoloogia instituudi IDMT ja Artefact Germany teadlased kirjalike tekstide ja kõnekeele digitaalsetele vesimärkidele. Teie projekti "Lantmark" eesmärk on muuta automatiseeritud sisu äratuntavaks, et tugevdada digitaalsete suhtlusruumide läbipaistvust ja usaldusväärsust. Uurimistöö keskendub eelkõige teksti vesimärkide tehnoloogiale, mis peidab märgid teksti, et muuta päritolu ja võimalikud muudatused jälgitavaks.

Selle projekti põhieesmärk on muuta suuri keelemudeleid (LLM) digitaalallkirja kandmiseks. Neid kaubamärgiga keelemudeleid peaks olema võimalik eristada kaubamärgita mudelitest, et avastada volitamata aruanded varajases staadiumis. Projekti rahastab ligikaudu 1,07 miljoni euroga föderaalne haridus- ja teadusministeerium ning see on osa meetmetest turvaliste tehnoloogiate arendamiseks üha enam võrgustunud maailmas.

Tehnoloogiline kontekst ja arengud

Vajadus vesimärkide järele kasvab, eriti kuna reaalsuse ja fiktsiooni vahelised piirid muutuvad järjest hägusemaks. Tehnoloogiad, nagu C2PA ja SynthID, muutuvad tehisintellektiga loodud sisu paremaks äratundmiseks üha olulisemaks. C2PA salvestab piltide päritolu ja töötlemise metaandmetesse ning seda toetavad juba tuntud kaameratootjad nagu Leica ja Canon. Facebooki taga olev ettevõte Meta kavatseb oma platvormidele märgistada ka AI-ga loodud pildid.

Lisaks töötab Google SynthID kallal, AI-ga loodud piltide nähtamatu märgistamise protsessiga, mis on kootud otse pikslistruktuuri. Nende tehnoloogiate eesmärk on edendada sisu autentsust ja neid toetavad sellised algatused nagu sisu autentsuse algatus (CAI), mille käivitasid sellised ettevõtted nagu Adobe ja Microsoft.

Nende tehnoloogiate arendamine on ülioluline, eriti kuna AI-ga loodud sisu kasutamisega seotud õigusvaidlused sagenevad. Näiteks kaebas Getty Images Stability AI kohtusse selle üle, et ta kasutas oma andmebaasist üle 12 miljoni pildi. Sarnased süüdistused esitas OpenAI vastu ka New York Times, rõhutades digitaalse sisu jaoks selgete siltide loomise kiireloomulisust.