AI och opinionsbildning: Faran med manipulation i demokratin!

AI och opinionsbildning: Faran med manipulation i demokratin!

Den 22 maj 2025 tillkännagav Berlins tekniska universitet betydande steg i forskningen om opinionsbildningens sociala dynamik. Under ledning av Sebastian Pokutta, vice ordförande för Zuse Institute Berlin och talesman för MATH+ Cluster of Excellence, kommer nästa finansieringsfas att fokusera på analys av opinionsbildning genom sociala medier. Syftet är att stärka och skydda demokratiska värderingar, samtidigt som artificiell intelligens (AI) och optimeringsmetoder lyfts fram som nyckelforskningsområden. Pokutta och hans team ser ett behov av att bättre förstå hur information sprids och algoritmernas inflytande på den allmänna opinionen.

De senaste åren har förändringen och spridningen av åsikter genom sociala medier ökat markant. Enligt Federal Agency for Civic Education ses tillgång till tillförlitlig information som avgörande för att demokratin ska fungera. Sociala mediers inflytande har förändrats markant, vilket har skapat sociala sårbarheter. Den tyska befolkningen uppvisar sjunkande förtroende för media, och faller från 48 % 2023 till 47 % 2024. Förtroendet för regeringen har också minskat, från 47 % till 42 %.

Den artificiella intelligensens roll

Artificiell intelligens spelar en allt mer central roll i politisk kommunikation. Den senaste utvecklingen, särskilt sedan lanseringen av ChatGPT i slutet av 2022, har återupplivat diskussionen om AI-manipulation och desinformation. AI:s förmåga att generera automatiserat innehåll och specifikt anpassa det identifieras som en stor risk. Politiska aktörer använder specifikt algoritmer för att öka synligheten för vissa berättelser. Det syns till exempel i de manipulativa strategier som AfD också använder för att sprida sina budskap.

I den planerade finansieringsfasen för MATH+ lägger Andrea Walther, en annan talesperson för projektet, stor vikt vid hållbarhet. Algoritmer för att öka effektiviteten bör utvecklas inom områdena mobilitet och energi, t.ex. genom att optimera transportnätverk för att minska strömförbrukningen för AI vid inlärning.

Demokratiska utmaningar och rekommendationer till åtgärder

Spridningen av desinformation utgör en betydande utmaning för demokratiska processer. Djupa förfalskningar och opålitligt AI-genererat innehåll hotar den demokratiska diskursen och kan undergräva förutsättningarna för en upplyst allmänhet. Sociala medier baserade på komplexa algoritmer maximerar användarens engagemang, vilket leder till fragmentering av informationsutrymmet och äventyrar den sociala sammanhållningen.

För att motverka denna utveckling krävs konkreta åtgärder. Åtgärdsrekommendationer inkluderar införandet av en uppförandekod för politiska partier, folkbildningskampanjer och främjande av en strategi med flera intressenter. Att säkerställa transparens via algoritmer och tillgång till användardata är väsentligt. Ett nära samarbete mellan plattformsoperatörer, politiker och civilsamhällets organisationer anses nödvändigt för att identifiera och motverka försök till manipulation.

Sammantaget visar det att utmaningarna från AI och dess långtgående konsekvenser för demokratin inte kan ignoreras. Utvecklingen inom politisk kommunikation kräver aktivt deltagande och reglering för att säkerställa att demokratiska värden bevaras även i en digitaliserad och algoritmiskt kontrollerad värld.