Framtidsorienterad AI: Cluster of Excellence med etiskt fokus i Darmstadt!

Framtidsorienterad AI: Cluster of Excellence med etiskt fokus i Darmstadt!

Den 23 maj 2025 presenterades det nya Cluster of Excellence "Reasonable Artificial Intelligence" (RAI) under ledning av Technical University of Darmstadt. Ett mål för klustret är att utveckla en ny generation AI-system som kännetecknas av förnuftig resursanvändning, dataskydd och ständiga förbättringar. Professor Isabel Valera från Saarlands universitet ingår i kärnteamet och bidrar därför väsentligt till klustrets strategi och forskning.

RAI Cluster of Excellence åtgärdar nuvarande svagheter i nuvarande AI-system, inklusive brist på logiskt tänkande och svårigheter i nya situationer. Projekten är också avsedda att övervinna det höga behovet av anpassning och de omfattande resurskraven för befintlig AI-teknik. Multidisciplinära team arbetar inom fyra tydligt definierade forskningsområden för att aktivt forma framtidens AI.

Forskningsområden inom klustret

• Systemic AI: Entwicklung von Software- und Systemmethoden zur effizienten Integration von RAI-Systemen.
• Observational AI: Kontextbezogenes Lernen zur Ausstattung von RAI mit gesundem Menschenverstand.
• Active AI: Erforschung von lebenslangem, adaptivem Lernen, um anpassungsfähigere RAI-Systeme zu schaffen.
• Challenging AI: Entwicklung von Verfahren zur Evaluierung und Verbesserung der RAI-Systemleistung.

Marcus Rohrbach, professor i datavetenskap vid TU Darmstadt, lyfter fram betydelsen av RAI både för framtiden för AI i Tyskland och världen över. Att integrera teknisk kapacitet med etiska standarder, effektivitet och transparens är ett kärnansvar för klustret. Kristian Kersting, meddirektör för hessian.AI och professor i datavetenskap vid TU, tackar inkluderingen av RAI i de federala och statliga excellensstrategierna. Han betonar också behovet av en europeisk suverän AI för att skapa sina egna standarder och pålitliga teknologier.

Etiskt ramverk och internationella rekommendationer

Inom ramen för den etiska användningen av artificiell intelligens har UNESCO utfärdat en grundläggande rekommendation som fokuserar på mänskliga rättigheter och grundläggande friheter. Denna internationella rättsliga grund, baserad på två års intensiva förhandlingar, ger en global referensram för alla länder, oavsett regeringsform eller ekonomisk styrka.

Rekommendationen introducerar väsentliga värderingar och etiska principer som integritet, transparens och icke-diskriminering. Det betonas att AI inte bara ska respektera människors rättigheter, utan också främja dem. En central del av rekommendationen är försiktighetsprincipen, som säger att om det finns en rimlig möjlighet till negativa effekter ska användningen av vissa AI-tillämpningar inte drivas vidare. Den hållbara användningen av AI-system i samband med miljöskydd tas också upp.

Den tyska UNESCO-kommissionen är aktivt engagerad i att implementera rekommendationen i Tyskland genom att tillhandahålla information, ge råd och organisera specialistevenemang. Tillsammans med experter utvecklas konkreta angreppssätt, inklusive åtgärder för jämställdhet och etisk användning av AI i konst och kultur.