人工智能和舆论形成：民主中操纵的危险！

人工智能和舆论形成：民主中操纵的危险！

2025 年 5 月 22 日，柏林工业大学宣布在舆论形成的社会动态研究方面取得重大进展。在柏林 Zuse 研究所副所长兼 MATH+ 卓越集群发言人 Sebastian Pokutta 的领导下，下一阶段的资助将侧重于通过社交媒体形成舆论的分析。其目的是加强和保护民主价值观，同时强调人工智能（AI）和优化方法作为关键研究领域。 Pokutta 和他的团队认为有必要更好地了解信息如何传播以及算法对公众舆论的影响。

近年来，通过社交媒体的观点变化和传播显着增加。根据联邦公民教育局的说法，获得可靠信息对于民主的运作至关重要。社交媒体的影响力发生了显着变化，造成了社会脆弱性。德国民众对媒体的信任度不断下降，从 2023 年的 48% 下降到 2024 年的 47%。对政府的信任度也下降，从 47% 下降到 42%。

人工智能的作用

人工智能在政治沟通中发挥着越来越重要的作用。最近的发展，特别是自 2022 年底推出 ChatGPT 以来，重新引发了有关人工智能操纵和虚假信息的讨论。人工智能生成自动化内容并对其进行专门个性化的能力被认为是主要风险。政治参与者专门使用算法来提高某些叙述的可见性。例如，这可以从德国选择党用来传播其信息的操纵策略中看出。

在计划中的 MATH+ 资助阶段，该项目的另一位发言人 Andrea Walther 非常重视可持续性。应在交通和能源领域开发提高效率的算法，例如通过优化传输网络来降低AI学习时的功耗。

民主挑战和行动建议

虚假信息的传播对民主进程构成了重大挑战。人工智能生成的深度造假和不可靠的内容威胁着民主话语，并可能破坏开明公众的条件。基于复杂算法的社交媒体最大限度地提高了用户参与度，导致信息空间碎片化并危及社会凝聚力。

为了应对这种发展，需要采取具体措施。行动建议包括引入政党行为准则、公共教育活动和推广多方利益相关者方法。通过算法确保透明度和访问用户数据至关重要。为了识别和抵制操纵行为，平台运营商、政治家和民间社会组织之间的密切合作被认为是必要的。

总体而言，它表明人工智能带来的挑战及其对民主的深远影响不容忽视。政治传播的发展需要积极参与和监管，以确保民主价值观即使在数字化和算法控制的世界中也能得到保存。