Am 23. Mai 2025 wurde das neue Exzellenzcluster „Reasonable Artificial Intelligence“ (RAI) unter der Leitung der Technischen Universität Darmstadt vorgestellt. Ein Ziel des Clusters ist die Entwicklung einer neuen Generation von KI-Systemen, die sich durch vernünftige Ressourcennutzung, Datenschutz und kontinuierliche Verbesserung auszeichnen. Professorin Isabel Valera von der Universität des Saarlandes ist Teil des Kernteams und trägt somit maßgeblich zur Strategie und Forschung des Clusters bei.
Der Exzellenzcluster RAI adressiert aktuelle Schwächen der gegenwärtigen KI-Systeme, darunter mangelndes logisches Denkvermögen sowie Schwierigkeiten in neuen Situationen. Die Projekte sollen auch die hohe Anpassungsnotwendigkeit und den umfangreichen Ressourcenbedarf von bestehenden KI-Technologien überwinden. Hierbei arbeiten multidisziplinäre Teams in vier klar definierten Forschungsbereichen, um die KI der Zukunft aktiv zu gestalten.
Forschungsbereiche des Clusters
- Systemic AI: Entwicklung von Software- und Systemmethoden zur effizienten Integration von RAI-Systemen.
- Observational AI: Kontextbezogenes Lernen zur Ausstattung von RAI mit gesundem Menschenverstand.
- Active AI: Erforschung von lebenslangem, adaptivem Lernen, um anpassungsfähigere RAI-Systeme zu schaffen.
- Challenging AI: Entwicklung von Verfahren zur Evaluierung und Verbesserung der RAI-Systemleistung.
Marcus Rohrbach, Informatikprofessor an der TU Darmstadt, hebt die Bedeutung von RAI sowohl für die Zukunft der KI in Deutschland als auch weltweit hervor. Die Integration technologischer Möglichkeiten mit ethischen Standards, Effizienz und Transparenz ist eine Kernverantwortung des Clusters. Kristian Kersting, Co-Direktor von hessian.AI und Informatikprofessor an der TU, dankt für die Aufnahme von RAI in die Exzellenzstrategie des Bundes und der Länder. Er betont zudem die Notwendigkeit einer europäisch-souveränen KI zur Schaffung eigener Standards und vertrauenswürdiger Technologien.
Ethische Rahmenbedingungen und internationale Empfehlungen
Im Kontext der ethischen Nutzung von Künstlicher Intelligenz hat die UNESCO eine fundamentale Empfehlung herausgegeben, die die Menschenrechte und Grundfreiheiten in den Fokus rückt. Diese völkerrechtliche Basis, die auf zwei Jahre intensiver Verhandlungen beruht, bietet einen globalen Referenzrahmen für alle Länder, unabhängig von ihrer Regierungsform oder Wirtschaftskraft.
Die Empfehlung führt wesentliche Werte und ethische Prinzipien wie Privatsphäre, Transparenz und Nicht-Diskriminierung ein. Dabei wird betont, dass KI nicht nur die Rechte der Menschen respektieren, sondern auch fördern sollte. Ein zentrales Element der Empfehlung ist das Vorsorgeprinzip, das besagt, dass bei begründeter Möglichkeit negativer Auswirkungen die Nutzung bestimmter KI-Anwendungen nicht weiter verfolgt werden sollte. Zudem wird der nachhaltige Einsatz von KI-Systemen in Verbindung mit dem Umweltschutz angesprochen.
Die Deutsche UNESCO-Kommission setzt sich aktiv für die Umsetzung der Empfehlung in Deutschland ein, indem sie Informationen bereitstellt, berät und Fachveranstaltungen organisiert. Gemeinsam mit Experten werden konkrete Handlungsansätze entwickelt, darunter Maßnahmen zur Geschlechtergerechtigkeit und zur ethischen Nutzung von KI in Kunst und Kultur.
