IA e formação de opinião: O perigo da manipulação na democracia!

IA e formação de opinião: O perigo da manipulação na democracia!

Em 22 de maio de 2025, a Universidade Técnica de Berlim anunciou passos significativos na investigação sobre a dinâmica social da formação de opinião. Sob a liderança de Sebastian Pokutta, vice-presidente do Zuse Institute Berlin e porta-voz do MATH+ Cluster of Excellence, a próxima fase de financiamento centrar-se-á na análise da formação de opinião através das redes sociais. O objetivo é fortalecer e proteger os valores democráticos, destacando ao mesmo tempo a inteligência artificial (IA) e os métodos de otimização como áreas-chave de investigação. Pokutta e sua equipe veem a necessidade de compreender melhor como a informação é divulgada e a influência que os algoritmos têm na opinião pública.

Nos últimos anos, a mudança e a difusão de opiniões através das redes sociais aumentaram significativamente. Segundo a Agência Federal de Educação Cívica, o acesso a informações confiáveis ​​é visto como crucial para o funcionamento da democracia. A influência das redes sociais mudou significativamente, o que criou vulnerabilidades sociais. A população alemã apresenta uma diminuição da confiança nos meios de comunicação social, caindo de 48% em 2023 para 47% em 2024. A confiança no governo também diminuiu, de 47% para 42%.

O papel da inteligência artificial

A inteligência artificial desempenha um papel cada vez mais central na comunicação política. Desenvolvimentos recentes, especialmente desde o lançamento do ChatGPT no final de 2022, reacenderam a discussão sobre a manipulação e a desinformação da IA. A capacidade da IA ​​de gerar conteúdo automatizado e personalizá-lo especificamente é identificada como um grande risco. Os atores políticos utilizam algoritmos especificamente para aumentar a visibilidade de certas narrativas. Isto pode ser visto, por exemplo, nas estratégias manipulativas que a AfD também utiliza para divulgar as suas mensagens.

Na fase planeada de financiamento do MATH+, Andrea Walther, outra porta-voz do projeto, atribui grande importância à sustentabilidade. Devem ser desenvolvidos algoritmos para aumentar a eficiência nas áreas da mobilidade e da energia, por ex. otimizando as redes de transporte para reduzir o consumo de energia da IA ​​durante o aprendizado.

Desafios democráticos e recomendações para ação

A propagação da desinformação representa um desafio significativo aos processos democráticos. As falsificações profundas e os conteúdos não fiáveis ​​gerados pela IA ameaçam o discurso democrático e podem minar as condições para um público esclarecido. As redes sociais baseadas em algoritmos complexos maximizam o envolvimento dos utilizadores, levando à fragmentação do espaço de informação e pondo em perigo a coesão social.

Para contrariar esta evolução, são necessárias medidas concretas. As recomendações de ação incluem a introdução de um código de conduta para os partidos políticos, campanhas de educação pública e a promoção de uma abordagem multilateral. Garantir a transparência por meio de algoritmos e o acesso aos dados dos usuários é essencial. Considera-se necessária uma cooperação estreita entre operadores de plataformas, políticos e organizações da sociedade civil, a fim de identificar e combater tentativas de manipulação.

Globalmente, mostra que os desafios colocados pela IA e as suas implicações de longo alcance para a democracia não podem ser ignorados. Os desenvolvimentos na comunicação política exigem participação ativa e regulação para garantir que os valores democráticos sejam preservados mesmo num mundo digitalizado e controlado por algoritmos.