Une étude internationale réclame des normes éthiques pour l’intelligence artificielle !

Une étude internationale réclame des normes éthiques pour l’intelligence artificielle !

Le 18 mars 2025, le projet de recherche international « AI FORA – Artificial Intelligence for Assessment » s’est achevé à l’Université Johannes Gutenberg de Mayence (JGU). Ce projet, financé à hauteur d'environ 1,5 million d'euros par la Fondation Volkswagen, est dédié à l'utilisation de l'intelligence artificielle (IA) pour une répartition équitable des prestations sociales publiques. À l’heure où les progrès technologiques s’accélèrent, la nécessité de systèmes plus équitables devient de plus en plus évidente.

Les résultats du projet ont été publiés dans une anthologie librement accessible en ligne. Il s'agit notamment de la répartition des prestations telles que les pensions, les allocations de chômage, les demandes d'asile et les places dans les jardins d'enfants. À l’aide d’études de cas provenant de neuf pays répartis sur quatre continents – Allemagne, Espagne, Estonie, Ukraine, États-Unis, Nigeria, Iran, Inde et Chine – les chercheurs montrent que les critères d’équité dépendent fortement des contextes culturels et sociaux.

Défis mondiaux et solutions locales

L’analyse montre clairement que, par exemple, en Inde, le système des castes et en Chine, le comportement civique sont des facteurs importants qui influencent l’octroi des prestations sociales. Ces différences soulignent l’importance de systèmes d’IA flexibles et dynamiques, capables de s’adapter aux conditions locales.

Une préoccupation centrale du projet est l’implication de tous les acteurs sociaux dans le développement de systèmes d’IA participatifs et équitables. Les voix des groupes vulnérables en particulier sont cruciales pour éviter la discrimination systémique et élaborer des solutions équitables.

Le projet de recherche s’inscrit dans un discours plus large sur l’utilisation éthique de l’IA. Parallèlement, l'UNESCO a publié une recommandation sur l'utilisation éthique de l'intelligence artificielle. Cela fournit un cadre de référence mondial pour l’élaboration de mesures nationales. Les droits de l’homme et les libertés fondamentales sont au premier plan. Des valeurs fondamentales telles que la confidentialité, la transparence et la non-discrimination sont également incluses.

Dimensions éthiques de l’IA

Le développement rapide des technologies d’IA soulève des questions éthiques complexes qui ont des conséquences considérables dans divers domaines de la vie. Les recherches actuelles montrent qu'il ne s'agit pas seulement d'accroître l'efficacité, mais également de gérer la protection des données, la perte d'autonomie et la transparence des décisions. Les différends sur la responsabilité en cas de mauvaises décisions présentent de plus en plus de défis juridiques et éthiques.

Une autre préoccupation concerne le risque de biais dans les systèmes d’IA, qui peut résulter de données de formation biaisées. Ces défis nécessitent une approche interdisciplinaire pour élaborer des lignes directrices éthiques appropriées. Des procédures telles que l’évaluation de l’impact éthique, qui évalue les avantages et les inconvénients des systèmes d’IA, sont considérées comme nécessaires pour garantir que l’IA soit non seulement respectée mais également encouragée.

La nécessité de dispenser régulièrement une formation éthique aux développeurs et d’encourager les débats publics sur l’IA sont également des recommandations clés. La recherche met en évidence l’importance de la transparence et de la capacité à expliquer les décisions en matière d’IA pour accroître la confiance du public dans ces technologies.

Un autre livre basé sur les résultats du projet AI FORA sera publié et présentera des modèles et des simulations pertinents pour les politiques. L'objectif est de proposer des améliorations aux systèmes d'IA pour résoudre les problèmes d'équité et de discrimination, une tâche urgente dans la société d'aujourd'hui qui dépend de plus en plus des technologies basées sur l'IA.

Dans l’ensemble, l’utilisation éthique de l’IA constitue non seulement un défi, mais aussi une opportunité de façonner la transformation numérique de manière à ce qu’elle serve les droits de l’homme et soutienne les objectifs de développement durable des Nations Unies. Les développements dans ce domaine seront cruciaux pour l’avenir de la justice sociale et de l’intégration technologique dans la vie quotidienne.