Umělá inteligence a formování mínění: Nebezpečí manipulace v demokracii!

Umělá inteligence a formování mínění: Nebezpečí manipulace v demokracii!

Technická univerzita v Berlíně oznámila 22. května 2025 významné kroky ve výzkumu sociální dynamiky utváření mínění. Pod vedením Sebastiana Pokutty, viceprezidenta Zuse Institute Berlin a mluvčího MATH+ Cluster of Excellence, se další fáze financování zaměří na analýzu utváření názoru prostřednictvím sociálních médií. Cílem je posilovat a chránit demokratické hodnoty a zároveň zdůraznit umělou inteligenci (AI) a optimalizační metody jako klíčové oblasti výzkumu. Pokutta a jeho tým vidí potřebu lépe pochopit, jak se informace šíří a jaký vliv mají algoritmy na veřejné mínění.

V posledních letech výrazně vzrostla změna a šíření názorů prostřednictvím sociálních sítí. Podle Spolkové agentury pro občanské vzdělávání je přístup ke spolehlivým informacím považován za klíčový pro fungování demokracie. Vliv sociálních médií se výrazně změnil, což vytvořilo sociální zranitelnost. Německá populace vykazuje klesající důvěru v média, která klesla ze 48 % v roce 2023 na 47 % v roce 2024. Snížila se také důvěra ve vládu, ze 47 % na 42 %.

Role umělé inteligence

Umělá inteligence hraje stále důležitější roli v politické komunikaci. Nedávný vývoj, zejména od spuštění ChatGPT na konci roku 2022, znovu podnítil diskusi o manipulaci a dezinformacích AI. Schopnost umělé inteligence generovat automatizovaný obsah a konkrétně jej personalizovat je identifikována jako hlavní riziko. Političtí aktéři specificky používají algoritmy ke zvýšení viditelnosti určitých narativů. Je to vidět například na manipulativních strategiích, které AfD také používá k šíření svých zpráv.

V plánované fázi financování MATH+ přikládá Andrea Walther, další mluvčí projektu, velký význam udržitelnosti. Algoritmy ke zvýšení účinnosti by měly být vyvinuty v oblastech mobility a energetiky, např. optimalizací transportních sítí, aby se snížila spotřeba energie AI při učení.

Demokratické výzvy a doporučení k akci

Šíření dezinformací představuje významnou výzvu pro demokratické procesy. Hluboké padělky a nespolehlivý obsah generovaný umělou inteligencí ohrožují demokratický diskurz a mohly by podkopat podmínky pro osvícenou veřejnost. Sociální média založená na složitých algoritmech maximalizují zapojení uživatelů, což vede k fragmentaci informačního prostoru a ohrožuje sociální soudržnost.

Aby se tomuto vývoji zabránilo, jsou zapotřebí konkrétní opatření. Mezi doporučení týkající se opatření patří zavedení kodexu chování pro politické strany, veřejné vzdělávací kampaně a podpora přístupu mnoha zainteresovaných stran. Zajištění transparentnosti pomocí algoritmů a přístupu k uživatelským datům je zásadní. Úzká spolupráce mezi provozovateli platforem, politiky a organizacemi občanské společnosti je považována za nezbytnou, aby bylo možné identifikovat a čelit pokusům o manipulaci.

Celkově to ukazuje, že výzvy, které AI představuje, a její dalekosáhlé důsledky pro demokracii nelze ignorovat. Vývoj v politické komunikaci vyžaduje aktivní účast a regulaci, aby bylo zajištěno zachování demokratických hodnot i v digitalizovaném a algoritmicky řízeném světě.