Umelá inteligencia orientovaná na budúcnosť: Cluster of Excellence s etickým zameraním v Darmstadte!

Umelá inteligencia orientovaná na budúcnosť: Cluster of Excellence s etickým zameraním v Darmstadte!

23. mája 2025 bol pod vedením Technickej univerzity v Darmstadte predstavený nový Cluster of Excellence “Reasonable Artificial Intelligence” (RAI). Jedným z cieľov klastra je vyvinúť novú generáciu systémov AI, ktoré sa vyznačujú rozumným využívaním zdrojov, ochranou údajov a neustálym zlepšovaním. Profesorka Isabel Valera zo Sárskej univerzity je súčasťou hlavného tímu, a preto významne prispieva k stratégii a výskumu klastra.

RAI Cluster of Excellence sa zaoberá súčasnými slabinami súčasných systémov AI, vrátane nedostatku schopností logického myslenia a ťažkostí v nových situáciách. Projekty sú tiež určené na prekonanie vysokej potreby prispôsobenia a rozsiahlych požiadaviek na zdroje existujúcich technológií AI. Multidisciplinárne tímy pracujú v štyroch jasne definovaných oblastiach výskumu, aby aktívne formovali AI budúcnosti.

Výskumné oblasti klastra

• Systemic AI: Entwicklung von Software- und Systemmethoden zur effizienten Integration von RAI-Systemen.
• Observational AI: Kontextbezogenes Lernen zur Ausstattung von RAI mit gesundem Menschenverstand.
• Active AI: Erforschung von lebenslangem, adaptivem Lernen, um anpassungsfähigere RAI-Systeme zu schaffen.
• Challenging AI: Entwicklung von Verfahren zur Evaluierung und Verbesserung der RAI-Systemleistung.

Marcus Rohrbach, profesor informatiky na TU Darmstadt, zdôrazňuje dôležitosť RAI pre budúcnosť AI v Nemecku aj na celom svete. Integrácia technologických schopností s etickými normami, efektívnosťou a transparentnosťou je hlavnou zodpovednosťou klastra. Kristian Kersting, spoluriaditeľ hessian.AI a profesor informatiky na TU, ďakuje začleneniu RAI do federálnych a štátnych stratégií excelentnosti. Zdôrazňuje tiež potrebu európskej suverénnej AI na vytváranie vlastných štandardov a dôveryhodných technológií.

Etický rámec a medzinárodné odporúčania

V kontexte etického využívania umelej inteligencie vydalo UNESCO zásadné odporúčanie, ktoré sa zameriava na ľudské práva a základné slobody. Tento medzinárodný právny základ založený na dvoch rokoch intenzívnych rokovaní poskytuje globálny referenčný rámec pre všetky krajiny bez ohľadu na formu vlády alebo ekonomickú silu.

Odporúčanie zavádza základné hodnoty a etické princípy, akými sú súkromie, transparentnosť a nediskriminácia. Zdôrazňuje sa, že AI by mala nielen rešpektovať práva ľudí, ale ich aj podporovať. Ústredným prvkom odporúčania je zásada predbežnej opatrnosti, v ktorej sa uvádza, že ak existuje primeraná možnosť negatívnych účinkov, v používaní určitých aplikácií umelej inteligencie by sa nemalo pokračovať. Rieši sa aj udržateľné využívanie systémov AI v súvislosti s ochranou životného prostredia.

Nemecká komisia pre UNESCO sa aktívne zaviazala implementovať odporúčanie v Nemecku poskytovaním informácií, poradenstvami a organizovaním odborných podujatí. Spolu s odborníkmi sa vypracúvajú konkrétne prístupy vrátane opatrení na rodovú rovnosť a etické využívanie umelej inteligencie v umení a kultúre.