AI proti dezinformacijam: boj dr. Vere Schmitt za resnico!

AI proti dezinformacijam: boj dr. Vere Schmitt za resnico!

V svetu, kjer se dezinformacije vse lažje širijo, raziskovalna skupina XplaiNLP pri TU Berlin predstavlja ključen korak v boju s tem izzivom. Po besedah ​​Vere Schmitt si je skupina pod vodstvom dr. zadala poslanstvo okrepiti odpornost družbe na dezinformacije. Z več kot 4 milijoni evrov sredstev tretjih oseb je njena raziskava usmerjena v razvoj orodij, ki tako novinarjem kot javnosti pomagajo bolje razumeti pripovedi dezinformacij.

Delo skupine se osredotoča na dva glavna projekta: VeraXtract in news-polygraph. Namen projekta VeraXtract je analizirati zapletene pripovedi dezinformacij, da bi ne samo prepoznali lažne informacije, temveč tudi dešifrirali pripovedi, ki so za njimi. Pri tem bi moralo imeti osrednjo vlogo "orodje za spremljanje pripovedi", ki ga podpira AI. Ta tehnologija ponuja razumljive razlage za svoje analize in tako uporabnikom ponuja preglednost.

Aktualni projekti in njihov pomen

Drugi projekt, news-polygraph, je namenjen posebej novinarjem in je namenjen iskanju lažnih informacij v besedilih, slikah, avdio in video vsebinah. Prva demo različica orodja je napovedana za april. Glede na izzive, da se preverjanja dejstev pogosto zgodijo prepozno in da dezinformacije ostanejo v kolektivnem spominu, postaja razvoj tovrstnih tehnologij vse bolj nujen.

Raziskovalna skupina XplaiNLP trenutno šteje 24 članov ekipe, zaradi česar je ena vodilnih skupin na področju odkrivanja dezinformacij v Nemčiji. Cilje skupine dopolnjuje potreba po kritični preučitvi vloge umetne inteligence v boju proti dezinformacijam. Dr. Schmitt poudarja pomen umetne inteligence: lahko deluje kot most med ljudmi in pomaga prebiti filtrske mehurčke.

Izzivi dezinformacij

Vseprisotno širjenje dezinformacij ogroža zaupanje v demokratične institucije in lahko poglobi družbene delitve. Uporaba umetne inteligence v tem kontekstu poudarja tako tveganja kot priložnosti. Poleg prepoznavanja dezinformacij ekipa analizira tudi slogovne značilnosti, da prepozna čustveno in nabito vsebino. Ti pristopi so še posebej pomembni v obdobju pred volitvami in konflikti, ko se dezinformacije vedno bolj uporabljajo strateško.

Skupina sodeluje tudi s partnerji, kot sta Deutsche Welle in Nemški raziskovalni center za umetno inteligenco, da bi še naprej razvijali metode globokega odkrivanja ponaredkov in analize vsebine. Pobude, kot so mednarodne podpisnice za preverjanje dejstev in lokalni preverjalci dejstev, so prav tako dejavno vključene v boj proti dezinformacijam. Zakon o digitalnih storitvah (DSA) bi lahko igral tudi pomembno vlogo pri urejanju platform družbenih medijev, ko gre za moderiranje vsebine.

Pomemben format za izmenjavo so dogodki, kot je razprava o preverjanju dejstev z AI, ki je načrtovana za 10. december 2024 na TU Berlin. Tukaj bodo razpravljali o trenutnih izzivih, pogojih pravnega okvira in potrebi po človeških preverjalcih dejstev, da bi izboljšali uporabo umetne inteligence v družbi.

Vizija raziskovalne skupine sega do leta 2030, ko naj bi bila AI sposobna zaznati in kontekstualizirati dezinformacije v realnem času. To naj bi povrnilo zaupanje v informacije in na koncu spodbudilo socialno kohezijo. Izzivi so nedvomni, vendar pristopi raziskovalne skupine XplaiNLP ponujajo nove perspektive v boju proti poplavi dezinformacij.