Umělá inteligence orientovaná na budoucnost: Cluster of Excellence s etickým zaměřením v Darmstadtu!

Umělá inteligence orientovaná na budoucnost: Cluster of Excellence s etickým zaměřením v Darmstadtu!

Dne 23. května 2025 byl pod vedením Technické univerzity v Darmstadtu představen nový Cluster of Excellence „Reasonable Artificial Intelligence“ (RAI). Jedním z cílů klastru je vyvinout novou generaci systémů umělé inteligence, které se vyznačují rozumným využíváním zdrojů, ochranou dat a neustálým zlepšováním. Profesorka Isabel Valera ze Sárské univerzity je součástí základního týmu, a proto významně přispívá ke strategii a výzkumu klastru.

RAI Cluster of Excellence řeší aktuální slabiny současných systémů umělé inteligence, včetně nedostatku schopností logického myšlení a potíží v nových situacích. Projekty jsou také určeny k překonání vysoké potřeby adaptace a rozsáhlých požadavků na zdroje stávajících technologií umělé inteligence. Multidisciplinární týmy pracují ve čtyřech jasně definovaných oblastech výzkumu, aby aktivně utvářely AI budoucnosti.

Oblasti výzkumu klastru

• Systemic AI: Entwicklung von Software- und Systemmethoden zur effizienten Integration von RAI-Systemen.
• Observational AI: Kontextbezogenes Lernen zur Ausstattung von RAI mit gesundem Menschenverstand.
• Active AI: Erforschung von lebenslangem, adaptivem Lernen, um anpassungsfähigere RAI-Systeme zu schaffen.
• Challenging AI: Entwicklung von Verfahren zur Evaluierung und Verbesserung der RAI-Systemleistung.

Marcus Rohrbach, profesor informatiky na TU Darmstadt, zdůrazňuje význam RAI pro budoucnost umělé inteligence v Německu i ve světě. Integrace technologických schopností s etickými standardy, efektivitou a transparentností je hlavní odpovědností klastru. Kristian Kersting, spoluředitel hessian.AI a profesor počítačových věd na TU, děkuje začlenění RAI do federálních a státních strategií excelence. Zdůrazňuje také potřebu evropské suverénní umělé inteligence k vytváření vlastních standardů a důvěryhodných technologií.

Etický rámec a mezinárodní doporučení

V rámci etického využívání umělé inteligence vydalo UNESCO zásadní doporučení, které se zaměřuje na lidská práva a základní svobody. Tento mezinárodní právní základ, založený na dvou letech intenzivních jednání, poskytuje globální referenční rámec pro všechny země bez ohledu na formu vlády nebo ekonomickou sílu.

Doporučení zavádí základní hodnoty a etické zásady, jako je soukromí, transparentnost a nediskriminace. Zdůrazňuje se, že umělá inteligence by měla nejen respektovat práva lidí, ale také je podporovat. Ústředním prvkem doporučení je zásada předběžné opatrnosti, která uvádí, že pokud existuje přiměřená možnost negativních účinků, nemělo by se v používání určitých aplikací umělé inteligence dále pokračovat. Řeší se také udržitelné využívání systémů umělé inteligence v souvislosti s ochranou životního prostředí.

Německá komise pro UNESCO se aktivně zavázala implementovat doporučení v Německu poskytováním informací, poradenstvím a organizováním odborných akcí. Spolu s odborníky jsou vyvíjeny konkrétní přístupy, včetně opatření pro rovnost žen a mužů a etické využívání umělé inteligence v umění a kultuře.