Umetna inteligenca in oblikovanje mnenja: Nevarnost manipulacije v demokraciji!

Umetna inteligenca in oblikovanje mnenja: Nevarnost manipulacije v demokraciji!

22. maja 2025 je Tehnična univerza v Berlinu napovedala pomembne korake v raziskavah družbene dinamike oblikovanja mnenja. Pod vodstvom Sebastiana Pokutte, podpredsednika inštituta Zuse Berlin in tiskovnega predstavnika grozda odličnosti MATH+, se bo naslednja faza financiranja osredotočila na analizo oblikovanja mnenja prek družbenih medijev. Cilj je okrepiti in zaščititi demokratične vrednote, pri tem pa izpostaviti umetno inteligenco (AI) in metode optimizacije kot ključna raziskovalna področja. Pokutta in njegova ekipa vidita potrebo po boljšem razumevanju, kako se informacije razširjajo in kakšen vpliv imajo algoritmi na javno mnenje.

V zadnjih letih se je spreminjanje in širjenje mnenj prek družbenih medijev močno povečalo. Po mnenju Zvezne agencije za državljansko izobraževanje je dostop do zanesljivih informacij ključen za delovanje demokracije. Vpliv družbenih medijev se je močno spremenil, kar je ustvarilo družbeno ranljivost. Nemško prebivalstvo kaže upad zaupanja v medije, in sicer z 48 % leta 2023 na 47 % leta 2024. Zmanjšalo se je tudi zaupanje v vlado, s 47 % na 42 %.

Vloga umetne inteligence

Umetna inteligenca ima vse bolj osrednjo vlogo v političnem komuniciranju. Nedavni dogodki, zlasti od uvedbe ChatGPT konec leta 2022, so znova sprožili razpravo o manipulaciji in dezinformacijah z umetno inteligenco. Zmožnost umetne inteligence, da ustvari avtomatizirano vsebino in jo posebej prilagodi, je opredeljena kot veliko tveganje. Politični akterji posebej uporabljajo algoritme za povečanje prepoznavnosti določenih narativov. To se na primer vidi v manipulativnih strategijah, ki jih AfD uporablja tudi za širjenje svojih sporočil.

V načrtovani fazi financiranja MATH+ Andrea Walther, druga tiskovna predstavnica projekta, pripisuje velik pomen trajnosti. Algoritme za povečanje učinkovitosti je treba razviti na področjih mobilnosti in energije, npr. z optimizacijo transportnih omrežij za zmanjšanje porabe energije AI pri učenju.

Demokratični izzivi in ​​priporočila za ukrepanje

Širjenje dezinformacij predstavlja velik izziv za demokratične procese. Globoki ponaredki in nezanesljive vsebine, ustvarjene z umetno inteligenco, ogrožajo demokratični diskurz in bi lahko spodkopale pogoje za razsvetljeno javnost. Družbeni mediji, ki temeljijo na zapletenih algoritmih, povečujejo angažiranost uporabnikov, kar vodi v fragmentacijo informacijskega prostora in ogroža socialno kohezijo.

Za preprečitev tega razvoja so potrebni konkretni ukrepi. Priporočila za ukrepanje vključujejo uvedbo kodeksa ravnanja za politične stranke, javne izobraževalne kampanje in spodbujanje pristopa več deležnikov. Zagotavljanje preglednosti prek algoritmov in dostopa do uporabniških podatkov je bistvenega pomena. Tesno sodelovanje med operaterji platforme, politiki in organizacijami civilne družbe je potrebno za prepoznavanje in preprečevanje poskusov manipulacije.

Na splošno kaže, da izzivov, ki jih predstavlja umetna inteligenca, in njenih daljnosežnih posledic za demokracijo ni mogoče prezreti. Razvoj v političnem komuniciranju zahteva aktivno udeležbo in regulacijo, da se zagotovi ohranitev demokratičnih vrednot tudi v digitaliziranem in algoritmično nadzorovanem svetu.