Međunarodna studija poziva na etičke standarde za umjetnu inteligenciju!

Međunarodna studija poziva na etičke standarde za umjetnu inteligenciju!

Dana 18. ožujka 2025. na Sveučilištu Johannes Gutenberg u Mainzu (JGU) završen je međunarodni istraživački projekt “AI FORA – Umjetna inteligencija za ocjenjivanje”. Ovaj projekt, koji je s oko 1,5 milijuna eura financirala Zaklada Volkswagen, posvećen je korištenju umjetne inteligencije (AI) za pravednu raspodjelu javnih društvenih koristi. U vrijeme kada se tehnološki napredak ubrzava, potreba za pravednijim sustavima postaje sve jasnija.

Rezultati projekta objavljeni su u zborniku koji je besplatno dostupan na internetu. To se posebno odnosi na raspodjelu naknada kao što su mirovine, naknade za nezaposlene, zahtjevi za azil i mjesta u vrtiću. Koristeći studije slučaja iz devet zemalja na četiri kontinenta - Njemačke, Španjolske, Estonije, Ukrajine, SAD-a, Nigerije, Irana, Indije i Kine - istraživači pokazuju da kriteriji pravednosti uvelike ovise o kulturnom i društvenom kontekstu.

Globalni izazovi i lokalna rješenja

Analiza jasno pokazuje da su, primjerice, u Indiji kastinski sustav i u Kini građansko ponašanje značajni čimbenici koji utječu na dodjelu socijalnih naknada. Ove razlike naglašavaju važnost fleksibilnih i dinamičnih AI sustava koji se mogu prilagoditi lokalnim uvjetima.

Središnja briga projekta je uključivanje svih društvenih aktera u razvoj participativnih i poštenih sustava umjetne inteligencije. Osobito su glasovi ranjivih skupina ključni za izbjegavanje sustavne diskriminacije i razvoj pravednih rješenja.

Istraživački projekt dio je šireg diskursa o etičkoj uporabi umjetne inteligencije. U međuvremenu je UNESCO objavio preporuku o etičkom korištenju umjetne inteligencije. To daje globalni referentni okvir za razvoj nacionalnih mjera. Ljudska prava i temeljne slobode su u prvom planu. Također su uključene temeljne vrijednosti kao što su privatnost, transparentnost i nediskriminacija.

Etičke dimenzije umjetne inteligencije

Brzi razvoj AI tehnologija postavlja složena etička pitanja koja imaju dalekosežne posljedice za različita područja života. Aktualna istraživanja pokazuju da se ne radi samo o povećanju učinkovitosti, već io bavljenju zaštitom podataka, gubitkom autonomije i transparentnosti odlučivanja. Sporovi oko odgovornosti i odgovornosti u slučaju pogrešnih odluka sve više predstavljaju pravne i etičke izazove.

Još jedna zabrinutost je rizik od pristranosti u sustavima umjetne inteligencije, koji može proizaći iz pristranih podataka o obuci. Ovi izazovi zahtijevaju interdisciplinarni pristup za razvoj odgovarajućih etičkih smjernica. Postupci kao što je Etička procjena utjecaja, koja procjenjuje prednosti i nedostatke sustava umjetne inteligencije, smatraju se potrebnima kako bi se osiguralo da se umjetna inteligencija ne samo poštuje nego i potiče.

Potreba za redovitom etičkom obukom za programere i poticanje javnih rasprava o umjetnoj inteligenciji također su ključne preporuke. Istraživanje naglašava važnost transparentnosti i sposobnosti objašnjavanja odluka umjetne inteligencije kako bi se povećalo povjerenje javnosti u te tehnologije.

Još jedna knjiga temeljena na rezultatima projekta AI ​​FORA bit će objavljena i predstavljat će modele i simulacije relevantne za politiku. Ovo ima za cilj predložiti poboljšanja sustava umjetne inteligencije za rješavanje pitanja jednakosti i diskriminacije, što je hitan zadatak u današnjem društvu koje se sve više oslanja na tehnologije koje pokreću umjetna inteligencija.

Općenito, etička uporaba umjetne inteligencije nije samo izazov, već i prilika za oblikovanje digitalne transformacije na takav način da služi ljudskim pravima i podupire ciljeve održivog razvoja UN-a. Razvoj u ovom području bit će ključan za budućnost socijalne pravde i tehnološke integracije u svakodnevni život.