L’IA et les individus : forts ensemble ou dangereusement différents ?

L’IA et les individus : forts ensemble ou dangereusement différents ?

Des chercheurs en sciences cognitives et en intelligence artificielle (IA) font actuellement l’objet d’une étude qui fournit des informations pertinentes sur la manière dont les gens s’adaptent aux nouvelles situations. Ces informations sont cruciales car les machines ont souvent du mal à réagir à des situations inconnues. Les résultats ont été publiés dans la célèbre revue Intelligence des machines naturelles publie et présente la collaboration interdisciplinaire de plus de 20 experts, dont le Dr Barbara Hammer et le Dr Benjamin Paaßen du Université de Bielefeld.

Barbara Hammer souligne qu’il est essentiel de comprendre comment les systèmes d’IA gèrent l’inconnu. Ceci est particulièrement pertinent pour les applications dans des domaines tels que la médecine, les transports et la prise de décision. L’étude montre que les machines se généralisent intrinsèquement différemment des humains, ce qui est d’une grande importance pour la collaboration homme-IA. Le terme « généralisation » joue ici un rôle central, car il décrit la capacité de tirer des conclusions sur des situations inconnues à partir d’informations connues.

Sciences cognitives : un domaine interdisciplinaire

Les sciences cognitives sont une science interdisciplinaire qui traite du traitement de l'information dans les processus de perception, de réflexion et de prise de décision. Elle étudie la cognition non seulement chez les humains, mais aussi chez les animaux et les machines. Les disciplines importantes qui contribuent aux sciences cognitives comprennent la psychologie, les neurosciences, l'informatique, la linguistique, la philosophie, l'anthropologie et la sociologie. Le développement de ce domaine est souvent associé à ce que l’on appelle le « tournant cognitif », qui a eu lieu entre les années 1940 et 1970 et est considéré comme une réaction au behaviorisme.

Cette étude développe une carte de généralisation commune qui fonctionne selon trois dimensions : compréhension, réussite et évaluation. Benjamin Paaßen explique que le sens de la généralisation est fondamentalement différent pour les humains et l'IA. La recherche vise à concevoir des systèmes d’IA afin qu’ils puissent mieux comprendre et soutenir les valeurs humaines et la logique décisionnelle.

Durabilité et responsabilité sociale

Le projet, réalisé dans le cadre du projet commun SAIL - Sustainable Life-Cycle of Intelligent Socio-Technical Systems, vise à rendre l'intelligence artificielle durable, transparente et orientée vers l'humain. Il est financé par le ministère de la Culture et des Sciences de Rhénanie du Nord-Westphalie. Cette collaboration interdisciplinaire entre les scientifiques cognitifs et les chercheurs en IA est cruciale pour aligner le progrès technologique sur les valeurs sociétales.

Pour le développement de ces systèmes techniques, il est tout aussi important de relever les défis de la désinformation dans les environnements numériques. La lutte contre les informations trompeuses, notamment dans le cadre de l’information de santé, est un autre enjeu important qui rassemble des experts de différentes disciplines. La sensibilisation à ce problème est cruciale pour accroître la confiance du public dans les applications de l’IA.

La publication originale intitulée « Aligning Generalization Between Humans and Machines » a été publiée le 15 septembre 2025. Intelligence des machines naturelles publié. Cette étude ne constitue pas seulement un autre chapitre de la recherche cognitive, mais met également en lumière l’interaction urgente entre les humains et les machines dans un monde de plus en plus technologique.