Internasjonal studie krever etiske standarder for kunstig intelligens!

Internasjonal studie krever etiske standarder for kunstig intelligens!

18. mars 2025 ble det internasjonale forskningsprosjektet «AI FORA – Artificial Intelligence for Assessment» fullført ved Johannes Gutenberg University Mainz (JGU). Dette prosjektet, som ble finansiert med rundt 1,5 millioner euro av Volkswagen Foundation, er dedikert til bruk av kunstig intelligens (AI) for rettferdig fordeling av offentlige sosiale goder. I en tid hvor teknologiske fremskritt akselererer, blir behovet for mer rettferdige systemer stadig tydeligere.

Resultatene av prosjektet ble publisert i en antologi som er fritt tilgjengelig på nett. Dette omhandler særlig fordeling av ytelser som pensjon, dagpenger, asylsøknader og barnehageplasser. Ved å bruke casestudier fra ni land på fire kontinenter – Tyskland, Spania, Estland, Ukraina, USA, Nigeria, Iran, India og Kina – viser forskerne at kriteriene for rettferdighet avhenger sterkt av kulturelle og sosiale kontekster.

Globale utfordringer og lokale løsninger

Analysen gjør det klart at for eksempel i India er kastesystemet og i Kina samfunnsadferd viktige faktorer som påvirker tildelingen av sosiale ytelser. Disse forskjellene fremhever viktigheten av fleksible og dynamiske AI-systemer som kan tilpasse seg lokale forhold.

En sentral bekymring for prosjektet er involveringen av alle sosiale aktører i utviklingen av deltakende og rettferdige AI-systemer. Spesielt sårbare gruppers stemmer er avgjørende for å unngå systemisk diskriminering og utvikle rettferdige løsninger.

Forskningsprosjektet er en del av en større diskurs om etisk bruk av AI. I mellomtiden har UNESCO publisert en anbefaling om etisk bruk av kunstig intelligens. Dette gir en global referanseramme for utvikling av nasjonale tiltak. Menneskerettigheter og grunnleggende friheter står i høysetet. Kjerneverdier som personvern, åpenhet og ikke-diskriminering er også inkludert.

Etiske dimensjoner ved AI

Den raske utviklingen av AI-teknologier reiser komplekse etiske spørsmål som har vidtrekkende konsekvenser for ulike områder av livet. Aktuell forskning viser at det ikke bare handler om å øke effektiviteten, men også om å håndtere databeskyttelse, tap av autonomi og beslutningsgjennomsiktighet. Tvister om ansvar og ansvar ved feil beslutninger byr i økende grad på juridiske og etiske utfordringer.

En annen bekymring er risikoen for skjevhet i AI-systemer, som kan oppstå fra partiske treningsdata. Disse utfordringene krever en tverrfaglig tilnærming for å utvikle hensiktsmessige etiske retningslinjer. Prosedyrer som Ethical Impact Assessment, som vurderer fordeler og ulemper ved AI-systemer, anses som nødvendige for å sikre at AI ikke bare respekteres, men også oppmuntres.

Behovet for regelmessig etikkopplæring for utviklere og oppmuntrende offentlige diskusjoner om AI er også viktige anbefalinger. Forskningen fremhever viktigheten av åpenhet og evnen til å forklare AI-beslutninger for å øke offentlig tillit til disse teknologiene.

En annen bok basert på resultatene fra AI FORA-prosjektet vil bli publisert og vil presentere politikkrelevante modeller og simuleringer. Dette tar sikte på å foreslå forbedringer av AI-systemer for å adressere spørsmål om rettferdighet og diskriminering, en presserende oppgave i dagens samfunn som i økende grad er avhengig av AI-drevne teknologier.

Samlet sett er den etiske bruken av AI ikke bare en utfordring, men også en mulighet til å forme digital transformasjon på en slik måte at den tjener menneskerettighetene og støtter FNs mål for bærekraftig utvikling. Utviklingen på dette området vil være avgjørende for fremtiden for sosial rettferdighet og teknologisk integrering i hverdagen.