AI og meningsdannelse: Faren for manipulasjon i demokratiet!

AI og meningsdannelse: Faren for manipulasjon i demokratiet!

Den 22. mai 2025 kunngjorde det tekniske universitetet i Berlin betydelige skritt i forskningen på den sosiale dynamikken i meningsdannelse. Under ledelse av Sebastian Pokutta, visepresident for Zuse Institute Berlin og talsmann for MATH+ Cluster of Excellence, vil neste finansieringsfase fokusere på analyse av meningsdannelse gjennom sosiale medier. Målet er å styrke og beskytte demokratiske verdier, samtidig som kunstig intelligens (AI) og optimaliseringsmetoder fremheves som sentrale forskningsområder. Pokutta og teamet hans ser et behov for å bedre forstå hvordan informasjon spres og hvilken innflytelse algoritmer har på opinionen.

De siste årene har endringen og spredningen av meninger gjennom sosiale medier økt betydelig. I følge Federal Agency for Civic Education blir tilgang til pålitelig informasjon sett på som avgjørende for at demokratiet skal fungere. Påvirkningen fra sosiale medier har endret seg betydelig, noe som har skapt sosiale sårbarheter. Den tyske befolkningen viser synkende tillit til media, og faller fra 48 % i 2023 til 47 % i 2024. Tilliten til regjeringen har også gått ned, fra 47 % til 42 %.

Rollen til kunstig intelligens

Kunstig intelligens spiller en stadig mer sentral rolle i politisk kommunikasjon. Nylig utvikling, spesielt siden lanseringen av ChatGPT på slutten av 2022, har gjenopplivet diskusjonen om AI-manipulasjon og desinformasjon. AIs evne til å generere automatisert innhold og spesifikt personalisere det er identifisert som en stor risiko. Politiske aktører bruker spesifikt algoritmer for å øke synligheten til visse narrativer. Dette kan for eksempel ses i de manipulerende strategiene som AfD også bruker for å spre sine budskap.

I den planlagte MATH+-finansieringsfasen legger Andrea Walther, en annen talsperson for prosjektet, stor vekt på bærekraft. Algoritmer for å øke effektiviteten bør utvikles på områdene mobilitet og energi, f.eks. ved å optimalisere transportnettverk for å redusere strømforbruket til AI ved læring.

Demokratiske utfordringer og anbefalinger til handling

Spredning av desinformasjon utgjør en betydelig utfordring for demokratiske prosesser. Dype forfalskninger og upålitelig AI-generert innhold truer den demokratiske diskursen og kan undergrave betingelsene for en opplyst offentlighet. Sosiale medier basert på komplekse algoritmer maksimerer brukerengasjementet, noe som fører til fragmentering av informasjonsrommet og setter sosial samhørighet i fare.

For å motvirke denne utviklingen kreves det konkrete tiltak. Anbefalinger for handling inkluderer innføring av en atferdskodeks for politiske partier, folkeopplysningskampanjer og fremme av en tilnærming med flere interessenter. Å sikre åpenhet via algoritmer og tilgang til brukerdata er avgjørende. Tett samarbeid mellom plattformoperatører, politikere og sivilsamfunnsorganisasjoner anses som nødvendig for å identifisere og motvirke forsøk på manipulasjon.

Samlet sett viser det at utfordringene AI og dens vidtrekkende implikasjoner for demokrati ikke kan ignoreres. Utviklingen innen politisk kommunikasjon krever aktiv deltakelse og regulering for å sikre at demokratiske verdier bevares selv i en digitalisert og algoritmisk kontrollert verden.