Am 18. März 2025 wurde das internationale Forschungsprojekt „AI FORA – Artificial Intelligence for Assessment“ an der Johannes Gutenberg-Universität Mainz (JGU) abgeschlossen. Dieses Projekt, das mit rund 1,5 Millionen Euro von der VolkswagenStiftung gefördert wurde, widmet sich dem Einsatz von Künstlicher Intelligenz (KI) zur gerechten Verteilung öffentlicher sozialer Leistungen. In einer Zeit, in der technologische Fortschritte rasant ansteigen, wird die Notwendigkeit für fairere Systeme immer deutlicher.
Die Ergebnisse des Projekts wurden in einem online frei zugänglichen Sammelband veröffentlicht. Dieser befasst sich insbesondere mit der Verteilung von Leistungen wie Renten, Arbeitslosengeld, Asylanträgen und Kindergartenplätzen. Anhand von Fallstudien aus neun Ländern auf vier Kontinenten – Deutschland, Spanien, Estland, Ukraine, USA, Nigeria, Iran, Indien und China – zeigen die Forscher, dass die Kriterien für Fairness stark von kulturellen und sozialen Kontexten abhängen.
Globale Herausforderungen und lokale Lösungen
Die Analyse verdeutlicht, dass beispielsweise in Indien das Kastensystem und in China das staatsbürgerliche Verhalten maßgebliche Einflussfaktoren auf die Gewährung sozialer Leistungen darstellen. Diese Unterschiede machen deutlich, wie wichtig flexible und dynamische KI-Systeme sind, die sich an lokale Gegebenheiten anpassen können.
Ein zentrales Anliegen des Projekts ist die Beteiligung aller gesellschaftlichen Akteure an der Entwicklung partizipativer und gerechter KI-Systeme. Insbesondere die Stimmen vulnerabler Gruppen sind entscheidend, um systemische Diskriminierung zu vermeiden und gerechte Lösungen zu erarbeiten.
Das Forschungsprojekt ist Teil eines größeren Diskurses über die ethische Nutzung von KI. Die UNESCO hat währenddessen eine Empfehlung zur ethischen Nutzung von Künstlicher Intelligenz veröffentlicht. Diese bietet einen globalen Referenzrahmen für die Entwicklung nationaler Maßnahmen. Menschenrechte und Grundfreiheiten stehen dabei im Vordergrund. Kernwerte wie Privatsphäre, Transparenz und Nicht-Diskriminierung sind ebenfalls enthalten.
Ethische Dimensionen der KI
Die rasante Entwicklung von KI-Technologien wirft komplexe ethische Fragestellungen auf, die weitreichende Folgen für verschiedene Lebensbereiche haben. Die aktuelle Forschung zeigt, dass es nicht nur um Effizienzsteigerung geht, sondern auch um den Umgang mit Datenschutz, Autonomieverlust und Entscheidungstransparenz. Auseinandersetzungen über Verantwortung und Haftung im Falle von Fehlentscheidungen stellen sich zunehmend als juristische und ethische Herausforderungen dar.
Eine weitere Sorge ist die Gefahr von Bias in KI-Systemen, die durch vorurteilbelastete Trainingsdaten entstehen können. Diese Herausforderungen erfordern einen interdisziplinären Zugang, um angemessene ethische Leitlinien zu entwickeln. Verfahren wie das Ethical Impact Assessment, das die Vor- und Nachteile von KI-Systemen bewertet, werden als notwendig erachtet, um sicherzustellen, dass KI nicht nur respektiert, sondern auch gefördert wird.
Die Notwendigkeit für regelmäßige Ethik-Schulungen für Entwickler und die Förderung öffentlicher Diskussionen über KI sind ebenfalls zentrale Empfehlungen. Die Forschung hebt die Bedeutung von Transparenz und der Fähigkeit zur Erklärung von KI-Entscheidungen hervor, um das Vertrauen der Öffentlichkeit in diese Technologien zu stärken.
Ein weiteres Buch, das auf den Ergebnissen des AI FORA Projektes basiert, wird erscheinen und politikrelevante Modelle und Simulationen vorstellen. Dadurch sollen Verbesserungen für KI-Systeme zur Lösung von Gerechtigkeits- und Diskriminierungsproblemen vorgeschlagen werden, eine dringende Aufgabe in der heutigen Gesellschaft, die immer mehr auf KI-gestützte Technologien angewiesen ist.
Insgesamt ist der ethische Umgang mit KI nicht nur eine Herausforderung, sondern auch eine Chance, um die digitale Transformation so zu gestalten, dass sie den Menschenrechten dient und die nachhaltigen Entwicklungsziele der UN unterstützt. Die Entwicklungen in diesem Bereich werden entscheidend für die Zukunft der sozialen Gerechtigkeit und der technologischen Integration in das tägliche Leben sein.
