AI pret dezinformāciju: doktores Veras Šmitas cīņa par patiesību!

AI pret dezinformāciju: doktores Veras Šmitas cīņa par patiesību!

Pasaulē, kurā dezinformācija izplatās arvien vieglāk, pētnieku grupa XplaiNLP pie TU Berlīne ir izšķirošs solis cīņā pret šo izaicinājumu. Dr. Veras Šmitas vadībā grupa ir izvirzījusi savu misiju stiprināt sabiedrības noturību pret dezinformāciju. Ar trešo pušu finansējumu vairāk nekā 4 miljonu eiro apmērā, viņas pētījuma mērķis ir izstrādāt rīkus, kas palīdz gan žurnālistiem, gan sabiedrībai labāk izprast dezinformācijas stāstījumus.

Grupas darbs koncentrējas uz diviem galvenajiem projektiem: VeraXtract un news-polygraph. Projekta VeraXtract mērķis ir analizēt sarežģītus dezinformācijas stāstījumus, lai ne tikai identificētu nepatiesu informāciju, bet arī atšifrētu aiz tiem esošos stāstījumus. AI atbalstītam “stāstījuma uzraudzības rīkam” šeit vajadzētu būt galvenajai lomai. Šī tehnoloģija sniedz saprotamus skaidrojumus savām analīzēm un tādējādi piedāvā lietotājiem pārredzamību.

Aktuālie projekti un to nozīme

Otrs projekts ziņu poligrāfs ir īpaši paredzēts žurnālistiem un paredzēts nepatiesas informācijas atrašanai tekstos, attēlos, audio un video saturā. Rīka pirmā demonstrācijas versija tiek paziņota aprīlī. Ņemot vērā izaicinājumus, ka faktu pārbaude bieži notiek pārāk vēlu un dezinformācija paliek kolektīvajā atmiņā, šādu tehnoloģiju izstrāde kļūst arvien neatliekamāka.

XplaiNLP pētnieku grupā šobrīd ir 24 komandas locekļi, kas padara to par vienu no vadošajām grupām dezinformācijas atklāšanas jomā Vācijā. Grupas mērķu papildināšana ir nepieciešamība kritiski pārbaudīt AI lomu dezinformācijas apkarošanā. Dr. Šmits uzsver AI nozīmi: tas var darboties kā tilts starp cilvēkiem un palīdzēt izlauzties cauri filtru burbuļiem.

Dezinformācijas izaicinājumi

Visur esošā dezinformācijas izplatība apdraud uzticību demokrātiskām institūcijām un var padziļināt sociālo šķelšanos. AI izmantošana šajā kontekstā izceļ gan riskus, gan iespējas. Papildus dezinformācijas identificēšanai komanda analizē arī stilistiskās īpašības, lai identificētu emocionālu un uzlādētu saturu. Šīs pieejas ir īpaši aktuālas periodā pirms vēlēšanām un konfliktiem, kad dezinformāciju arvien vairāk izmanto stratēģiski.

Grupa sadarbojas arī ar tādiem partneriem kā Deutsche Welle un Vācijas Mākslīgā intelekta pētniecības centrs, lai turpinātu attīstīt dziļo viltojumu noteikšanas un satura analīzes metodes. Dezinformācijas apkarošanā aktīvi iesaistās arī tādas iniciatīvas kā Starptautiskie faktu pārbaudes parakstītāji un vietējie faktu pārbaudītāji. Digitālo pakalpojumu likumam (DSA) arī varētu būt svarīga loma sociālo mediju platformu regulēšanā, kad runa ir par satura regulēšanu.

Svarīgs apmaiņas formāts ir tādi pasākumi kā diskusija par faktu pārbaudēm ar AI, kas plānota 2024. gada 10. decembrī Berlīnes TU. Šeit tiks apspriesti aktuālie izaicinājumi, tiesiskā regulējuma nosacījumi un nepieciešamība pēc cilvēka faktu pārbaudītājiem, lai uzlabotu AI izmantošanu sabiedrībā.

Pētnieku grupas redzējums attiecas uz 2030. gadu, kad AI jāspēj atklāt un kontekstualizēt dezinformāciju reāllaikā. Tas ir paredzēts, lai atjaunotu uzticēšanos informācijai un galu galā veicinātu sociālo kohēziju. Izaicinājumi ir nepārprotami, taču XplaiNLP pētnieku grupas pieejas piedāvā jaunas perspektīvas cīņā pret dezinformācijas plūdiem.