面向未来的人工智能：达姆施塔特以道德为中心的卓越集群！

面向未来的人工智能：达姆施塔特以道德为中心的卓越集群！

2025 年 5 月 23 日，在达姆施塔特工业大学的领导下，新的卓越集群“合理人工智能”（RAI）揭晓。该集群的目标之一是开发新一代人工智能系统，其特点是合理利用资源、保护数据和持续改进。萨尔大学的 Isabel Valera 教授是核心团队的一员，因此为集群的战略和研究做出了重大贡献。

RAI 卓越集群解决了当前人工智能系统的当前弱点，包括缺乏逻辑思维技能和新情况下的困难。这些项目还旨在克服现有人工智能技术对适应的高度需求和广泛的资源需求。多学科团队在四个明确定义的研究领域开展工作，积极塑造未来的人工智能。

集群研究领域

• Systemic AI: Entwicklung von Software- und Systemmethoden zur effizienten Integration von RAI-Systemen.
• Observational AI: Kontextbezogenes Lernen zur Ausstattung von RAI mit gesundem Menschenverstand.
• Active AI: Erforschung von lebenslangem, adaptivem Lernen, um anpassungsfähigere RAI-Systeme zu schaffen.
• Challenging AI: Entwicklung von Verfahren zur Evaluierung und Verbesserung der RAI-Systemleistung.

达姆施塔特工业大学计算机科学教授 Marcus Rohrbach 强调了 RAI 对于德国和全球人工智能未来的重要性。将技术能力与道德标准、效率和透明度相结合是集群的核心责任。 hessian.AI 联合主任兼 TU 计算机科学教授 Kristian Kersting 感谢将 RAI 纳入联邦和州卓越战略。他还强调欧洲主权人工智能需要创建自己的标准和值得信赖的技术。

道德框架和国际建议

在人工智能的道德使用方面，联合国教科文组织发布了一项基本建议，重点关注人权和基本自由。这一基于两年紧张谈判的国际法律基础为所有国家（无论其政府形式或经济实力如何）提供了全球参考框架。

该建议介绍了隐私、透明度和非歧视等基本价值观和道德原则。强调人工智能不仅要尊重人的权利，更要促进人的权利。该建议的核心要素是预防原则，该原则指出，如果存在产生负面影响的合理可能性，则不应进一步使用某些人工智能应用程序。还讨论了与环境保护相关的人工智能系统的可持续利用。

德国教科文组织委员会积极致力于通过提供信息、建议和组织专业活动在德国落实该建议。与专家一起制定具体方法，包括性别平等措施以及人工智能在艺术和文化中的道德使用。