AI mot desinformation: Dr Vera Schmitts kamp för sanningen!

AI mot desinformation: Dr Vera Schmitts kamp för sanningen!

I en värld där desinformation sprids allt lättare har forskargruppen XplaiNLP vid TU Berlin utgör ett avgörande steg för att bekämpa denna utmaning. Under ledning av Dr. Enligt Vera Schmitt har gruppen gjort det till sitt uppdrag att stärka samhällets motståndskraft mot desinformation. Med över 4 miljoner euro i finansiering från tredje part är hennes forskning inriktad på att utveckla verktyg som hjälper både journalister och allmänheten att bättre förstå desinformationsberättelser.

Gruppens arbete fokuserar på två huvudprojekt: VeraXtract och nyhets-polygraf. VeraXtract-projektet syftar till att analysera komplexa desinformationsberättelser för att inte bara identifiera falsk information utan också dechiffrera berättelserna bakom dem. Ett AI-stödt "narrativt övervakningsverktyg" bör spela en central roll här. Denna teknik ger förståeliga förklaringar till sina analyser och erbjuder därmed transparens för användarna.

Pågående projekt och deras betydelse

Det andra projektet, news-polygraph, riktar sig specifikt till journalister och är utformat för att hitta falsk information i texter, bilder, ljud- och videoinnehåll. Den första demoversionen av verktyget tillkännages i april. Med tanke på de utmaningar som faktakontroller ofta sker för sent och desinformation finns kvar i det kollektiva minnet, blir utvecklingen av sådana tekniker allt mer angelägen.

Forskargruppen XplaiNLP har för närvarande 24 gruppmedlemmar, vilket gör den till en av de ledande grupperna inom området för desinformationsdetektering i Tyskland. Som ett komplement till gruppens mål är behovet av att kritiskt granska AI:s roll för att bekämpa desinformation. Dr. Schmitt betonar relevansen av AI: Den kan fungera som en bro mellan människor och hjälpa till att bryta igenom filterbubblor.

Desinformationens utmaningar

Den allestädes närvarande spridningen av desinformation hotar förtroendet för demokratiska institutioner och kan fördjupa sociala klyftor. Användningen av AI i detta sammanhang belyser både riskerna och möjligheterna. Förutom att identifiera felaktig information, analyserar teamet även stilistiska egenskaper för att identifiera känslomässigt och laddat innehåll. Dessa tillvägagångssätt är särskilt relevanta under perioden fram till val och konflikter, då desinformation i allt större utsträckning används strategiskt.

Gruppen samarbetar även med partners som Deutsche Welle och det tyska forskningscentret för artificiell intelligens för att vidareutveckla metoder för deepfake-detektering och innehållsanalys. Initiativ som International Fact-Checking Signators och lokala faktagranskare är också aktivt involverade i att motverka desinformation. Digital Services Act (DSA) kan också spela en viktig roll för att reglera sociala medieplattformar när det gäller innehållsmoderering.

Ett viktigt format för utbyte är evenemang som diskussionen om faktakontroller med AI, som är planerad till den 10 december 2024 på TU Berlin. Aktuella utmaningar, juridiska ramvillkor och behovet av mänskliga faktagranskare kommer att diskuteras här för att förbättra samhällets användning av AI.

Forskargruppens vision sträcker sig till 2030, då AI ska kunna upptäcka och kontextualisera desinformation i realtid. Detta är avsett att återställa förtroendet för information och i slutändan främja social sammanhållning. Utmaningarna är omisskännliga, men XplaiNLP-forskargruppens tillvägagångssätt erbjuder nya perspektiv i kampen mot floden av desinformation.