人工智能对抗虚假信息：维拉·施密特博士为真相而战！

人工智能对抗虚假信息：维拉·施密特博士为真相而战！

在虚假信息越来越容易传播的世界中，XplaiNLP 研究小组 柏林工业大学 是应对这一挑战的关键一步。 Vera Schmitt 表示，在 Vera Schmitt 博士的领导下，该组织的使命是增强社会对虚假信息的抵御能力。她的研究获得了超过 400 万欧元的第三方资助，旨在开发帮助记者和公众更好地理解虚假信息叙述的工具。

该小组的工作重点是两个主要项目：VeraXtract 和新闻测谎仪。 VeraXtract 项目旨在分析复杂的虚假信息叙述，不仅识别虚假信息，还破译其背后的叙述。人工智能支持的“叙事监控工具”应该在这里发挥核心作用。该技术为其分析提供了易于理解的解释，从而为用户提供了透明度。

目前的项目及其意义

第二个项目是新闻测谎仪，专门针对记者，旨在发现文本、图像、音频和视频内容中的虚假信息。该工具的第一个演示版本将于四月份发布。鉴于事实核查往往发生得太晚以及虚假信息仍然存在于集体记忆中的挑战，此类技术的开发变得越来越紧迫。

XplaiNLP研究小组目前拥有24名团队成员，是德国虚假信息检测领域的领先小组之一。为了补充该组织的目标，需要批判性地研究人工智能在打击虚假信息方面的作用。施密特博士强调了人工智能的相关性：它可以充当人与人之间的桥梁，帮助打破过滤泡沫。

虚假信息的挑战

虚假信息无所不在的传播威胁着对民主制度的信任，并可能加深社会分歧。在这种背景下人工智能的使用凸显了风险和机遇。除了识别错误信息外，该团队还分析风格特征，以识别情绪化和充满激情的内容。这些方法在选举和冲突之前的时期尤其重要，因为此时虚假信息越来越多地被战略性地使用。

该小组还与德国之声和德国人工智能研究中心等合作伙伴合作，进一步开发深度伪造检测和内容分析方法。国际事实核查签署机构和当地事实核查机构等倡议也积极参与打击错误信息。在内容审核方面，《数字服务法案》（DSA）也可以在监管社交媒体平台方面发挥重要作用。

交流的一种重要形式是诸如关于人工智能事实检查的讨论等活动，计划于 2024 年 12 月 10 日在柏林工业大学举行。这里将讨论当前的挑战、法律框架条件以及对人类事实检查员的需求，以改善社会对人工智能的使用。

该研究小组的愿景延伸到 2030 年，届时人工智能应该能够实时检测虚假信息并对其进行背景分析。此举旨在恢复对信息的信任并最终促进社会凝聚力。挑战是显而易见的，但 XplaiNLP 研究小组的方法为打击虚假信息泛滥提供了新的视角。