Suche
Mein Konto
AI mod desinformation: Dr. Vera Schmitts kamp for sandheden!
TU Berlin forsker under Dr. Vera Schmitt i AI-understøttede værktøjer til at bekæmpe desinformation for at styrke demokratiske processer.
AI mod desinformation: Dr. Vera Schmitts kamp for sandheden!
I en verden, hvor desinformation spredes lettere og lettere, er forskningsgruppen XplaiNLP ved TU Berlin repræsenterer et afgørende skridt i bekæmpelsen af denne udfordring. Under ledelse af Dr. Ifølge Vera Schmitt har gruppen gjort det til sin mission at styrke samfundets modstandsdygtighed over for desinformation. Med over 4 millioner euro i tredjepartsfinansiering er hendes forskning rettet mod at udvikle værktøjer, der hjælper både journalister og offentligheden bedre med at forstå desinformationsfortællinger.
Gruppens arbejde fokuserer på to hovedprojekter: VeraXtract og nyhedspolygraf. VeraXtract-projektet har til formål at analysere komplekse desinformationsfortællinger for ikke kun at identificere falsk information, men også at tyde fortællingerne bag dem. Et AI-understøttet "narrativt overvågningsværktøj" bør spille en central rolle her. Denne teknologi giver forståelige forklaringer på sine analyser og tilbyder dermed gennemsigtighed for brugerne.
Aktuelle projekter og deres betydning
Det andet projekt, news-polygraph, henvender sig specifikt til journalister og er designet til at finde falsk information i tekster, billeder, lyd- og videoindhold. Den første demoversion af værktøjet annonceres til april. I betragtning af de udfordringer, at faktatjek ofte kommer for sent, og desinformation forbliver i den kollektive hukommelse, bliver udviklingen af sådanne teknologier stadig mere presserende.
XplaiNLP-forskningsgruppen har i øjeblikket 24 teammedlemmer, hvilket gør den til en af de førende grupper inden for desinformationsdetektion i Tyskland. Som supplement til gruppens mål er behovet for kritisk at undersøge AI's rolle i bekæmpelsen af desinformation. Dr. Schmitt understreger relevansen af AI: Den kan fungere som en bro mellem mennesker og hjælpe med at bryde igennem filterbobler.
Desinformationens udfordringer
Den allestedsnærværende spredning af desinformation truer tilliden til demokratiske institutioner og kan uddybe sociale skel. Brugen af kunstig intelligens i denne sammenhæng fremhæver både risici og muligheder. Ud over at identificere misinformation analyserer teamet også stilistiske karakteristika for at identificere følelsesmæssigt og ladet indhold. Disse tilgange er særligt relevante i perioden op til valg og konflikter, hvor desinformation i stigende grad bruges strategisk.
Gruppen arbejder også med partnere som Deutsche Welle og det tyske forskningscenter for kunstig intelligens for at videreudvikle metoder til deepfake-detektion og indholdsanalyse. Initiativer som de internationale underskrivere af faktatjek og lokale faktatjekkere er også aktivt involveret i at imødegå misinformation. Loven om digitale tjenester (DSA) kan også spille en vigtig rolle i reguleringen af sociale medieplatforme, når det kommer til moderering af indhold.
Et vigtigt format for udveksling er arrangementer som diskussionen om faktatjek med AI, som er planlagt til den 10. december 2024 på TU Berlin. Aktuelle udfordringer, juridiske rammebetingelser og behovet for menneskelige faktatjekkere vil blive diskuteret her for at forbedre samfundets brug af AI.
Forskergruppens vision strækker sig til 2030, hvor AI skal være i stand til at opdage og kontekstualisere desinformation i realtid. Dette har til formål at genoprette tilliden til information og i sidste ende fremme social sammenhængskraft. Udfordringerne er ikke til at tage fejl af, men XplaiNLP-forskergruppens tilgange giver nye perspektiver i kampen mod strømmen af desinformation.