IA contra a desinformação: a luta da Dra. Vera Schmitt pela verdade!

IA contra a desinformação: a luta da Dra. Vera Schmitt pela verdade!

Num mundo onde a desinformação se espalha cada vez mais facilmente, o grupo de investigação XplaiNLP do Universidade Técnica de Berlim representa um passo crucial no combate a este desafio. Sob a liderança da Dra. Segundo Vera Schmitt, o grupo assumiu como missão fortalecer a resiliência da sociedade à desinformação. Com mais de 4 milhões de euros em financiamento de terceiros, a sua investigação visa desenvolver ferramentas que ajudem tanto os jornalistas como o público a compreender melhor as narrativas de desinformação.

O trabalho do grupo concentra-se em dois projetos principais: VeraXtract e News-Polygraph. O projeto VeraXtract visa analisar narrativas complexas de desinformação não apenas para identificar informações falsas, mas também para decifrar as narrativas por trás delas. Uma “ferramenta de monitoramento narrativo” apoiada por IA deve desempenhar um papel central aqui. Essa tecnologia fornece explicações compreensíveis para suas análises e, assim, oferece transparência aos usuários.

Projetos atuais e seu significado

O segundo projeto, polígrafo de notícias, é voltado especificamente para jornalistas e tem como objetivo encontrar informações falsas em textos, imagens, conteúdos de áudio e vídeo. A primeira versão demo da ferramenta é anunciada para abril. Tendo em conta os desafios que a verificação dos factos muitas vezes ocorre demasiado tarde e a desinformação permanece na memória colectiva, o desenvolvimento de tais tecnologias torna-se cada vez mais urgente.

O grupo de pesquisa XplaiNLP conta atualmente com 24 membros, o que o torna um dos grupos líderes na área de detecção de desinformação na Alemanha. Complementando os objetivos do grupo está a necessidade de examinar criticamente o papel da IA ​​no combate à desinformação. Schmitt enfatiza a relevância da IA: ela pode atuar como uma ponte entre as pessoas e ajudar a romper bolhas de filtragem.

Os desafios da desinformação

A propagação omnipresente da desinformação ameaça a confiança nas instituições democráticas e pode aprofundar as divisões sociais. A utilização da IA ​​neste contexto destaca tanto os riscos como as oportunidades. Além de identificar desinformação, a equipe também analisa características estilísticas para identificar conteúdos emocionais e carregados. Estas abordagens são particularmente relevantes no período que antecede eleições e conflitos, quando a desinformação é cada vez mais utilizada de forma estratégica.

O grupo também trabalha com parceiros como a Deutsche Welle e o Centro Alemão de Pesquisa para Inteligência Artificial para desenvolver ainda mais métodos de detecção de deepfake e análise de conteúdo. Iniciativas como os Signatários Internacionais de Verificação de Fatos e os verificadores de factos locais também estão ativamente envolvidas no combate à desinformação. A Lei dos Serviços Digitais (DSA) também poderia desempenhar um papel importante na regulação das plataformas de mídia social quando se trata de moderação de conteúdo.

Um formato importante de intercâmbio são eventos como a discussão sobre checagem de fatos com IA, prevista para 10 de dezembro de 2024 na TU Berlim. Os desafios atuais, as condições do quadro jurídico e a necessidade de verificadores de factos humanos serão aqui discutidos, a fim de melhorar a utilização da IA ​​pela sociedade.

A visão do grupo de pesquisa se estende até 2030, quando a IA deverá ser capaz de detectar e contextualizar a desinformação em tempo real. O objetivo é restaurar a confiança na informação e, em última análise, promover a coesão social. Os desafios são inequívocos, mas as abordagens do grupo de investigação XplaiNLP oferecem novas perspetivas na luta contra a inundação de desinformação.