AI desinformatsiooni vastu: dr Vera Schmitti võitlus tõe eest!

AI desinformatsiooni vastu: dr Vera Schmitti võitlus tõe eest!

Maailmas, kus desinformatsioon levib üha kergemini, on uurimisrühm XplaiNLP TLÜ Berliin on otsustav samm selle väljakutsega võitlemisel. Dr Vera Schmitti sõnul on rühmitus võtnud oma missiooniks tugevdada ühiskonna vastupanuvõimet desinformatsioonile. Enam kui 4 miljoni euro suuruse kolmandate osapoolte rahastamisega on tema uurimistöö eesmärk välja töötada tööriistu, mis aitavad nii ajakirjanikel kui ka avalikkusel paremini mõista desinformatsiooni narratiive.

Grupi töö keskendub kahele põhiprojektile: VeraXtract ja news-polygraph. Projekti VeraXtract eesmärk on analüüsida keerulisi desinformatsiooni narratiive, et mitte ainult tuvastada valeandmeid, vaid ka dešifreerida nende taga olevaid narratiive. AI-toega narratiivse jälgimise tööriist peaks siin mängima keskset rolli. See tehnoloogia annab oma analüüsidele arusaadavaid selgitusi ja pakub seega kasutajatele läbipaistvust.

Käimasolevad projektid ja nende tähendus

Teine projekt, uudistepolügraaf, on suunatud spetsiaalselt ajakirjanikele ning on mõeldud valeinfo leidmiseks tekstidest, piltidest, heli- ja videosisudest. Tööriista esimene demoversioon kuulutatakse välja aprillis. Arvestades väljakutseid, et faktide kontrollimine toimub sageli liiga hilja ja desinformatsioon jääb kollektiivsesse mällu, muutub selliste tehnoloogiate väljatöötamine üha pakilisemaks.

XplaiNLP uurimisrühmas on praegu 24 meeskonnaliiget, mis teeb sellest ühe juhtiva rühma desinformatsiooni tuvastamise valdkonnas Saksamaal. Rühma eesmärke täiendab vajadus kriitiliselt uurida tehisintellekti rolli desinformatsiooni vastu võitlemisel. Dr Schmitt rõhutab tehisintellekti asjakohasust: see võib toimida sillana inimeste vahel ja aidata filtrimullidest läbi murda.

Desinformatsiooni väljakutsed

Kõikjal leviv desinformatsioon ohustab usaldust demokraatlike institutsioonide vastu ja võib süvendada sotsiaalseid lõhesid. AI kasutamine selles kontekstis toob esile nii riskid kui ka võimalused. Lisaks valeinformatsiooni tuvastamisele analüüsib meeskond emotsionaalse ja laetud sisu tuvastamiseks ka stiilitunnuseid. Need lähenemisviisid on eriti olulised valimistele ja konfliktidele eelneval perioodil, mil desinformatsiooni kasutatakse üha enam strateegiliselt.

Grupp teeb koostööd ka selliste partneritega nagu Deutsche Welle ja Saksamaa Tehisintellekti Uurimiskeskus, et arendada edasi süvavõltsingute tuvastamise ja sisuanalüüsi meetodeid. Sellised algatused nagu rahvusvahelised faktikontrolli allakirjutanud ja kohalikud faktikontrollijad osalevad aktiivselt ka valeinformatsiooni vastu võitlemisel. Digiteenuste seadus (DSA) võiks samuti mängida olulist rolli sotsiaalmeedia platvormide reguleerimisel sisu modereerimise osas.

Oluliseks vahetuse formaadiks on sellised üritused nagu 10. detsembril 2024 Berliini TLÜ-s toimuv arutelu faktikontrolli üle tehisintellektiga. Siin käsitletakse praegusi väljakutseid, õiguslikke raamtingimusi ja inimeste faktide kontrollimise vajadust, et parandada tehisintellekti kasutamist ühiskonnas.

Uurimisrühma visioon ulatub aastani 2030, mil tehisintellekt peaks suutma desinformatsiooni reaalajas tuvastada ja kontekstualiseerida. Selle eesmärk on taastada usaldus teabe vastu ja lõpuks edendada sotsiaalset ühtekuuluvust. Väljakutsed on eksimatud, kuid XplaiNLP uurimisrühma lähenemisviisid pakuvad uusi vaatenurki võitluses desinformatsiooni tulva vastu.