Medzinárodná štúdia požaduje etické štandardy pre umelú inteligenciu!

Medzinárodná štúdia požaduje etické štandardy pre umelú inteligenciu!

Dňa 18. marca 2025 bol na Univerzite Johannesa Gutenberga Mainz (JGU) ukončený medzinárodný výskumný projekt „AI FORA – Artificial Intelligence for Assessment“. Tento projekt, ktorý Nadácia Volkswagen financovala sumou približne 1,5 milióna eur, je venovaný využívaniu umelej inteligencie (AI) na spravodlivé rozdeľovanie verejných sociálnych výhod. V čase, keď sa technologický pokrok zrýchľuje, je potreba spravodlivejších systémov čoraz jasnejšia.

Výsledky projektu boli publikované v zborníku, ktorý je voľne prístupný online. Ide najmä o rozdeľovanie dávok, ako sú dôchodky, podpora v nezamestnanosti, žiadosti o azyl a miesta v škôlke. Pomocou prípadových štúdií z deviatich krajín na štyroch kontinentoch – Nemecka, Španielska, Estónska, Ukrajiny, USA, Nigérie, Iránu, Indie a Číny – výskumníci ukazujú, že kritériá pre spravodlivosť do veľkej miery závisia od kultúrnych a sociálnych kontextov.

Globálne výzvy a lokálne riešenia

Z analýzy je zrejmé, že napríklad v Indii sú kastový systém a občianske správanie v Číne významnými faktormi, ktoré ovplyvňujú udeľovanie sociálnych výhod. Tieto rozdiely zdôrazňujú dôležitosť flexibilných a dynamických systémov AI, ktoré sa dokážu prispôsobiť miestnym podmienkam.

Ústredným záujmom projektu je zapojenie všetkých sociálnych aktérov do vývoja participatívnych a spravodlivých systémov AI. Hlasy najmä zraniteľných skupín sú kľúčové, aby sa predišlo systémovej diskriminácii a vyvinuli sa spravodlivé riešenia.

Výskumný projekt je súčasťou rozsiahlejšieho diskurzu o etickom využívaní AI. UNESCO medzitým zverejnilo odporúčanie o etickom využívaní umelej inteligencie. To poskytuje globálny referenčný rámec pre rozvoj vnútroštátnych opatrení. Ľudské práva a základné slobody sú v popredí. Zahrnuté sú aj základné hodnoty, ako sú súkromie, transparentnosť a nediskriminácia.

Etické rozmery AI

Rýchly rozvoj technológií AI vyvoláva zložité etické otázky, ktoré majú ďalekosiahle dôsledky pre rôzne oblasti života. Súčasný výskum ukazuje, že nejde len o zvyšovanie efektivity, ale aj o riešenie ochrany údajov, straty autonómie a transparentnosti rozhodovania. Spory o zodpovednosti a zodpovednosti v prípade nesprávnych rozhodnutí čoraz viac predstavujú právne a etické výzvy.

Ďalšou obavou je riziko zaujatosti v systémoch AI, ktoré môže vyplynúť zo skreslených tréningových údajov. Tieto výzvy si vyžadujú interdisciplinárny prístup na vypracovanie vhodných etických smerníc. Postupy, ako je hodnotenie etického vplyvu, ktoré posudzuje výhody a nevýhody systémov umelej inteligencie, sa považujú za potrebné na zabezpečenie toho, aby sa umelá inteligencia nielen rešpektovala, ale aj podporovala.

Kľúčovými odporúčaniami sú aj potreba pravidelných etických školení pre vývojárov a podnecovanie verejných diskusií o AI. Výskum zdôrazňuje dôležitosť transparentnosti a schopnosti vysvetliť rozhodnutia AI s cieľom zvýšiť dôveru verejnosti v tieto technológie.

Na základe výsledkov projektu AI ​​FORA bude vydaná ďalšia kniha, ktorá predstaví modely a simulácie relevantné pre politiku. Cieľom je navrhnúť zlepšenia systémov AI na riešenie problémov rovnosti a diskriminácie, čo je naliehavá úloha v dnešnej spoločnosti, ktorá sa čoraz viac spolieha na technológie poháňané AI.

Celkovo možno povedať, že etické využívanie AI nie je len výzvou, ale aj príležitosťou formovať digitálnu transformáciu tak, aby slúžila ľudským právam a podporovala ciele OSN v oblasti trvalo udržateľného rozvoja. Vývoj v tejto oblasti bude mať zásadný význam pre budúcnosť sociálnej spravodlivosti a technologickej integrácie do každodenného života.