Mezinárodní studie požaduje etické standardy pro umělou inteligenci!

Mezinárodní studie požaduje etické standardy pro umělou inteligenci!

18. března 2025 byl na Univerzitě Johannese Gutenberga Mainz (JGU) ukončen mezinárodní výzkumný projekt „AI FORA – Artificial Intelligence for Assessment“. Tento projekt, který Nadace Volkswagen financovala částkou přibližně 1,5 milionu eur, je věnován využití umělé inteligence (AI) pro spravedlivé rozdělování veřejných sociálních dávek. V době, kdy se technologický pokrok zrychluje, je potřeba spravedlivějších systémů stále jasnější.

Výsledky projektu byly publikovány ve sborníku, který je volně přístupný online. Jedná se zejména o rozdělování dávek, jako jsou důchody, podpora v nezaměstnanosti, žádosti o azyl a místa v mateřských školách. Pomocí případových studií z devíti zemí na čtyřech kontinentech – Německa, Španělska, Estonska, Ukrajiny, USA, Nigérie, Íránu, Indie a Číny – výzkumníci ukazují, že kritéria pro spravedlnost do značné míry závisí na kulturních a sociálních kontextech.

Globální výzvy a lokální řešení

Z analýzy je zřejmé, že například v Indii jsou kastovní systém a v Číně občanské chování významnými faktory ovlivňujícími poskytování sociálních dávek. Tyto rozdíly zdůrazňují význam flexibilních a dynamických systémů umělé inteligence, které se dokážou přizpůsobit místním podmínkám.

Ústředním zájmem projektu je zapojení všech sociálních aktérů do vývoje participativních a spravedlivých systémů umělé inteligence. Hlasy zvláště zranitelných skupin jsou zásadní pro zamezení systémové diskriminace a pro vypracování spravedlivých řešení.

Výzkumný projekt je součástí širšího diskurzu o etickém využívání AI. Mezitím UNESCO zveřejnilo doporučení o etickém využívání umělé inteligence. To poskytuje globální referenční rámec pro rozvoj vnitrostátních opatření. Lidská práva a základní svobody jsou v popředí. Zahrnuty jsou také základní hodnoty, jako je soukromí, transparentnost a nediskriminace.

Etické dimenze AI

Rychlý rozvoj technologií AI vyvolává složité etické otázky, které mají dalekosáhlé důsledky pro různé oblasti života. Současné výzkumy ukazují, že nejde jen o zvyšování efektivity, ale také o řešení ochrany dat, ztráty autonomie a transparentnosti rozhodování. Spory o odpovědnosti a odpovědnosti v případě nesprávných rozhodnutí představují stále více právní a etické výzvy.

Další obavou je riziko zkreslení v systémech AI, které může vzniknout ze zkreslených tréninkových dat. Tyto výzvy vyžadují interdisciplinární přístup k vytvoření vhodných etických pokynů. Postupy, jako je posouzení etického dopadu, které posuzuje výhody a nevýhody systémů umělé inteligence, jsou považovány za nezbytné, aby bylo zajištěno, že umělá inteligence bude nejen respektována, ale také podporována.

Klíčovými doporučeními jsou také potřeba pravidelných etických školení pro vývojáře a podněcování veřejných diskusí o AI. Výzkum zdůrazňuje důležitost transparentnosti a schopnosti vysvětlit rozhodnutí AI pro zvýšení důvěry veřejnosti v tyto technologie.

Další kniha založená na výsledcích projektu AI ​​FORA bude vydána a představí modely a simulace relevantní pro politiku. Cílem je navrhnout vylepšení systémů umělé inteligence s cílem řešit problémy rovnosti a diskriminace, což je naléhavý úkol v dnešní společnosti, která je stále více závislá na technologiích poháněných umělou inteligencí.

Celkově lze říci, že etické využívání umělé inteligence není jen výzvou, ale také příležitostí utvářet digitální transformaci tak, aby sloužila lidským právům a podporovala cíle udržitelného rozvoje OSN. Vývoj v této oblasti bude mít zásadní význam pro budoucnost sociální spravedlnosti a technologické integrace do každodenního života.