Communication intime : des partenaires artificiels comme nouveaux confidents ?

Communication intime : des partenaires artificiels comme nouveaux confidents ?

De nos jours, alors que l’intelligence artificielle (IA) est de plus en plus présente dans de nombreux domaines de la vie, la communication intime avec les systèmes de dialogue dits en langage naturel suscite un grand intérêt. Un nouveau projet de recherche appelé SENTIMENT, qui se déroule au Université de Cassel a été lancé, examine les opportunités et les défis de ces technologies, notamment dans le domaine de la santé mentale.

Le projet vise à promouvoir une communication authentique et humaine. Il devient de plus en plus clair que les frontières entre l’IA et les partenaires de communication anthropomorphisés s’estompent. Les utilisateurs ressentent souvent un lien émotionnel avec des programmes comme Replika, Romantic AI et Wysa qui les aident à partager leurs pensées et sentiments personnels. Cette forme de communication peut apporter une fonction de soutien dans la vie quotidienne de nombreuses personnes.

Problèmes de confidentialité et attachements émotionnels

Cependant, l’utilisation de tels systèmes soulève d’importantes préoccupations en matière de confidentialité. Les utilisateurs partagent souvent des informations sensibles qui sont utilisées par les systèmes de dialogue pour personnaliser l'interaction. De nombreuses personnes ignorent les risques liés au partage de leurs données avec des tiers. D'après un article sur das-wissen.de Les questions de transparence, de consentement et de contrôle revêtent une importance centrale lorsqu’il s’agit du traitement des données personnelles.

Le règlement général sur la protection des données (RGPD) réglemente le traitement de ces données dans l'UE et oblige les fournisseurs d'IA à fournir une explication transparente sur la manière dont les données sont utilisées. Cependant, on constate souvent un manque de transparence et de traçabilité dans les processus décisionnels des systèmes d’IA. Les recherches menées dans SENTIMENT devraient également viser à déterminer dans quelle mesure les utilisateurs sont empêchés d'exercer leurs droits sur les données en raison de liens émotionnels avec les partenaires de l'IA.

Cadre juridique et approches interdisciplinaires

Le projet SENTIMENT, qui se déroulera jusqu'en 2027 sous la direction du PD Dr. Christian Geminn, s'intéresse donc aux exigences légales et à la protection de la vie privée lors de l'utilisation de telles technologies. Un autre aspect est l’autodétermination des utilisateurs concernant leurs données. Les partenaires du projet comprennent : Université des beaux-arts de Kassel et le Université de Duisbourg-Essen. La collaboration entre ces institutions permet d'intégrer différentes perspectives sur le sujet et de refléter les approches de recherche.

Le projet de recherche reçoit un financement de 1,24 million d'euros dans le cadre de la ligne directrice de financement « Privacy Platform » du ministère fédéral de l'Éducation et de la Recherche (BMBF). La présentation finale hybride est prévue pour 2027 dans une exposition interdisciplinaire, qui souligne la pertinence et l'urgence du sujet.