L'IA contre la désinformation : le combat du Dr Vera Schmitt pour la vérité !

L'IA contre la désinformation : le combat du Dr Vera Schmitt pour la vérité !

Dans un monde où la désinformation se propage de plus en plus facilement, le groupe de recherche XplaiNLP du Université de Berlin représente une étape cruciale dans la lutte contre ce défi. Sous la direction du Dr Selon Vera Schmitt, le groupe s'est donné pour mission de renforcer la résilience de la société face à la désinformation. Avec plus de 4 millions d'euros de financement de tiers, ses recherches visent à développer des outils qui aident à la fois les journalistes et le public à mieux comprendre les récits de désinformation.

Les travaux du groupe se concentrent sur deux projets principaux : VeraXtract et news-polygraph. Le projet VeraXtract vise à analyser les récits de désinformation complexes pour non seulement identifier les fausses informations, mais également déchiffrer les récits qui les sous-tendent. Un « outil de surveillance narrative » soutenu par l’IA devrait jouer ici un rôle central. Cette technologie fournit des explications compréhensibles sur ses analyses et offre ainsi une transparence aux utilisateurs.

Projets en cours et leur importance

Le deuxième projet, news-polygraph, s'adresse spécifiquement aux journalistes et vise à trouver de fausses informations dans les textes, les images, les contenus audio et vidéo. La première version démo de l'outil est annoncée pour avril. Compte tenu du fait que les vérifications des faits interviennent souvent trop tard et que la désinformation reste dans la mémoire collective, le développement de telles technologies devient de plus en plus urgent.

Le groupe de recherche XplaiNLP compte actuellement 24 membres, ce qui en fait l'un des groupes leaders dans le domaine de la détection de la désinformation en Allemagne. Les objectifs du groupe sont complétés par la nécessité d'examiner de manière critique le rôle de l'IA dans la lutte contre la désinformation. Le Dr Schmitt souligne la pertinence de l’IA : elle peut servir de pont entre les gens et aider à briser les bulles de filtrage.

Les défis de la désinformation

La propagation omniprésente de la désinformation menace la confiance dans les institutions démocratiques et peut aggraver les divisions sociales. L’utilisation de l’IA dans ce contexte met en évidence à la fois les risques et les opportunités. En plus d’identifier la désinformation, l’équipe analyse également les caractéristiques stylistiques pour identifier le contenu émotionnel et chargé. Ces approches sont particulièrement pertinentes dans la période précédant les élections et les conflits, lorsque la désinformation est de plus en plus utilisée de manière stratégique.

Le groupe travaille également avec des partenaires tels que Deutsche Welle et le Centre allemand de recherche sur l'intelligence artificielle pour développer davantage les méthodes de détection des deepfakes et d'analyse de contenu. Des initiatives telles que les signataires internationaux du fact-checking et les vérificateurs de faits locaux participent également activement à la lutte contre la désinformation. La loi sur les services numériques (DSA) pourrait également jouer un rôle important dans la réglementation des plateformes de médias sociaux en matière de modération de contenu.

Les événements tels que la discussion sur la vérification des faits avec l'IA, prévue le 10 décembre 2024 à la TU Berlin, constituent un format d'échange important. Les défis actuels, les conditions du cadre juridique et la nécessité de vérifier les faits humains seront abordés ici afin d'améliorer l'utilisation de l'IA par la société.

La vision du groupe de recherche s'étend jusqu'en 2030, lorsque l'IA devrait être capable de détecter et de contextualiser la désinformation en temps réel. L’objectif est de restaurer la confiance dans l’information et, à terme, de promouvoir la cohésion sociale. Les défis sont indéniables, mais les approches du groupe de recherche XplaiNLP offrent de nouvelles perspectives dans la lutte contre le flot de désinformation.