IA tournée vers l’avenir : pôle d’excellence à vocation éthique à Darmstadt !

IA tournée vers l’avenir : pôle d’excellence à vocation éthique à Darmstadt !

Le 23 mai 2025, le nouveau pôle d'excellence « Intelligence artificielle raisonnable » (RAI) a été présenté sous la direction de l'Université technique de Darmstadt. L'un des objectifs du cluster est de développer une nouvelle génération de systèmes d'IA caractérisés par une utilisation judicieuse des ressources, la protection des données et une amélioration continue. Le professeur Isabel Valera de l'Université de la Sarre fait partie de l'équipe principale et contribue donc de manière significative à la stratégie et à la recherche du cluster.

Le pôle d'excellence RAI s'attaque aux faiblesses actuelles des systèmes d'IA actuels, notamment le manque de capacités de réflexion logique et les difficultés rencontrées dans les nouvelles situations. Les projets visent également à surmonter le besoin élevé d’adaptation et les vastes besoins en ressources des technologies d’IA existantes. Des équipes multidisciplinaires travaillent dans quatre domaines de recherche clairement définis pour façonner activement l’IA du futur.

Domaines de recherche du pôle

• Systemic AI: Entwicklung von Software- und Systemmethoden zur effizienten Integration von RAI-Systemen.
• Observational AI: Kontextbezogenes Lernen zur Ausstattung von RAI mit gesundem Menschenverstand.
• Active AI: Erforschung von lebenslangem, adaptivem Lernen, um anpassungsfähigere RAI-Systeme zu schaffen.
• Challenging AI: Entwicklung von Verfahren zur Evaluierung und Verbesserung der RAI-Systemleistung.

Marcus Rohrbach, professeur d'informatique à la TU Darmstadt, souligne l'importance de la RAI pour l'avenir de l'IA en Allemagne et dans le monde. Intégrer les capacités technologiques aux normes éthiques, à l’efficacité et à la transparence est une responsabilité essentielle du cluster. Kristian Kersting, co-directeur de hessian.AI et professeur d'informatique à la TU, remercie l'inclusion de la RAI dans les stratégies d'excellence fédérales et étatiques. Il souligne également la nécessité pour une IA européenne souveraine de créer ses propres normes et technologies fiables.

Cadre éthique et recommandations internationales

Dans le contexte de l’utilisation éthique de l’intelligence artificielle, l’UNESCO a émis une recommandation fondamentale axée sur les droits de l’homme et les libertés fondamentales. Cette base juridique internationale, fondée sur deux années de négociations intensives, offre un cadre de référence global à tous les pays, quelle que soit leur forme de gouvernement ou leur puissance économique.

La Recommandation introduit des valeurs essentielles et des principes éthiques tels que la vie privée, la transparence et la non-discrimination. Il est souligné que l’IA doit non seulement respecter les droits des personnes, mais aussi les promouvoir. Un élément central de la recommandation est le principe de précaution, qui stipule que s’il existe une possibilité raisonnable d’effets négatifs, l’utilisation de certaines applications de l’IA ne devrait pas être poursuivie. L'utilisation durable des systèmes d'IA en lien avec la protection de l'environnement est également abordée.

La Commission allemande pour l'UNESCO s'engage activement dans la mise en œuvre de la recommandation en Allemagne en fournissant des informations, des conseils et en organisant des événements spécialisés. En collaboration avec des experts, des approches concrètes sont développées, notamment des mesures en faveur de l'égalité des sexes et de l'utilisation éthique de l'IA dans l'art et la culture.