AI a formovanie názorov: Nebezpečenstvo manipulácie v demokracii!

AI a formovanie názorov: Nebezpečenstvo manipulácie v demokracii!

Technická univerzita v Berlíne oznámila 22. mája 2025 významné kroky vo výskume sociálnej dynamiky formovania názorov. Pod vedením Sebastiana Pokuttu, viceprezidenta Zuse Institute Berlin a hovorcu MATH+ Cluster of Excellence, sa ďalšia fáza financovania zameria na analýzu tvorby názorov prostredníctvom sociálnych médií. Cieľom je posilniť a chrániť demokratické hodnoty a zároveň zdôrazniť umelú inteligenciu (AI) a optimalizačné metódy ako kľúčové oblasti výskumu. Pokutta a jeho tím vidia potrebu lepšie pochopiť, ako sa informácie šíria a aký vplyv majú algoritmy na verejnú mienku.

V posledných rokoch výrazne vzrástla zmena a šírenie názorov prostredníctvom sociálnych sietí. Podľa Federálnej agentúry pre občianske vzdelávanie je prístup k spoľahlivým informáciám považovaný za kľúčový pre fungovanie demokracie. Vplyv sociálnych médií sa výrazne zmenil, čo vytvorilo sociálne zraniteľné miesta. Nemecká populácia vykazuje klesajúcu dôveru v médiá, ktorá klesla zo 48 % v roku 2023 na 47 % v roku 2024. Znížila sa aj dôvera vo vládu, a to zo 47 % na 42 %.

Úloha umelej inteligencie

Umelá inteligencia zohráva v politickej komunikácii čoraz ústrednejšiu úlohu. Nedávny vývoj, najmä od spustenia ChatGPT na konci roku 2022, znovu podnietil diskusiu o manipulácii a dezinformáciách AI. Schopnosť AI generovať automatizovaný obsah a špecificky ho personalizovať je identifikovaná ako hlavné riziko. Politickí aktéri špecificky používajú algoritmy na zvýšenie viditeľnosti určitých príbehov. Vidno to napríklad na manipulatívnych stratégiách, ktorými AfD šíri svoje posolstvá.

V plánovanej fáze financovania MATH+ pripisuje Andrea Walther, ďalšia hovorkyňa projektu, veľký význam udržateľnosti. Algoritmy na zvýšenie efektívnosti by mali byť vyvinuté v oblastiach mobility a energetiky, napr. optimalizáciou transportných sietí na zníženie spotreby energie AI pri učení.

Demokratické výzvy a odporúčania pre činnosť

Šírenie dezinformácií predstavuje významnú výzvu pre demokratické procesy. Hlboké falzifikáty a nespoľahlivý obsah generovaný AI ohrozujú demokratický diskurz a mohli by podkopať podmienky pre osvietenú verejnosť. Sociálne médiá založené na zložitých algoritmoch maximalizujú zapojenie používateľov, čo vedie k fragmentácii informačného priestoru a ohrozuje sociálnu súdržnosť.

Proti tomuto vývoju sú potrebné konkrétne opatrenia. Odporúčania pre opatrenia zahŕňajú zavedenie kódexu správania pre politické strany, verejné vzdelávacie kampane a podporu prístupu viacerých zainteresovaných strán. Zabezpečenie transparentnosti pomocou algoritmov a prístupu k užívateľským údajom je nevyhnutné. Úzka spolupráca medzi prevádzkovateľmi platforiem, politikmi a organizáciami občianskej spoločnosti sa považuje za nevyhnutnú na identifikáciu a boj proti pokusom o manipuláciu.

Celkovo to ukazuje, že výzvy, ktoré predstavuje AI, a jej ďalekosiahle dôsledky pre demokraciu nemožno ignorovať. Vývoj v politickej komunikácii si vyžaduje aktívnu účasť a reguláciu, aby sa zabezpečilo zachovanie demokratických hodnôt aj v digitalizovanom a algoritmicky riadenom svete.