International undersøgelse kræver etiske standarder for kunstig intelligens!

International undersøgelse kræver etiske standarder for kunstig intelligens!

Den 18. marts 2025 blev det internationale forskningsprojekt "AI FORA – Artificial Intelligence for Assessment" afsluttet på Johannes Gutenberg University Mainz (JGU). Dette projekt, som blev finansieret med omkring 1,5 millioner euro af Volkswagen Foundation, er dedikeret til brugen af ​​kunstig intelligens (AI) til retfærdig fordeling af offentlige sociale ydelser. I en tid, hvor de teknologiske fremskridt accelererer, bliver behovet for mere retfærdige systemer mere og mere klart.

Resultaterne af projektet blev offentliggjort i en antologi, der er frit tilgængelig online. Det drejer sig især om fordeling af ydelser som pensioner, dagpenge, asylansøgninger og børnehavepladser. Ved hjælp af casestudier fra ni lande på fire kontinenter - Tyskland, Spanien, Estland, Ukraine, USA, Nigeria, Iran, Indien og Kina - viser forskerne, at kriterierne for retfærdighed afhænger i høj grad af kulturelle og sociale sammenhænge.

Globale udfordringer og lokale løsninger

Analysen gør det klart, at f.eks. i Indien er kastesystemet og i Kina borgerlig adfærd væsentlige faktorer, der påvirker tildelingen af ​​sociale ydelser. Disse forskelle fremhæver vigtigheden af ​​fleksible og dynamiske AI-systemer, der kan tilpasse sig lokale forhold.

En central bekymring for projektet er inddragelsen af ​​alle sociale aktører i udviklingen af ​​deltagende og retfærdige AI-systemer. Især udsatte gruppers stemmer er afgørende for at undgå systemisk diskrimination og udvikle retfærdige løsninger.

Forskningsprojektet er en del af en større diskurs om etisk brug af AI. I mellemtiden har UNESCO offentliggjort en anbefaling om etisk brug af kunstig intelligens. Dette giver en global referenceramme for udvikling af nationale tiltag. Menneskerettigheder og grundlæggende frihedsrettigheder er i højsædet. Kerneværdier som privatliv, gennemsigtighed og ikke-diskrimination er også inkluderet.

Etiske dimensioner af AI

Den hurtige udvikling af AI-teknologier rejser komplekse etiske spørgsmål, som har vidtrækkende konsekvenser for forskellige områder af livet. Aktuel forskning viser, at det ikke kun handler om at øge effektiviteten, men også om at håndtere databeskyttelse, tab af autonomi og beslutningsgennemsigtighed. Tvister om ansvar og ansvar i tilfælde af forkerte beslutninger giver i stigende grad juridiske og etiske udfordringer.

En anden bekymring er risikoen for bias i AI-systemer, som kan opstå fra forudindtaget træningsdata. Disse udfordringer kræver en tværfaglig tilgang til at udvikle passende etiske retningslinjer. Procedurer som Ethical Impact Assessment, der vurderer fordele og ulemper ved AI-systemer, anses for nødvendige for at sikre, at AI ikke kun respekteres, men også opmuntres.

Behovet for regelmæssig etisk træning for udviklere og tilskyndelse til offentlige diskussioner om kunstig intelligens er også vigtige anbefalinger. Forskningen fremhæver vigtigheden af ​​gennemsigtighed og evnen til at forklare AI-beslutninger for at øge offentlighedens tillid til disse teknologier.

En anden bog baseret på resultaterne af AI-FORA-projektet vil blive offentliggjort og vil præsentere politikrelevante modeller og simuleringer. Dette har til formål at foreslå forbedringer af AI-systemer for at løse problemer med retfærdighed og diskrimination, en presserende opgave i dagens samfund, der i stigende grad er afhængig af AI-drevne teknologier.

Samlet set er den etiske brug af kunstig intelligens ikke kun en udfordring, men også en mulighed for at forme digital transformation på en sådan måde, at den tjener menneskerettighederne og understøtter FN's mål for bæredygtig udvikling. Udviklingen på dette område vil være afgørende for fremtiden for social retfærdighed og teknologisk integration i hverdagen.