IA y formación de opinión: ¡El peligro de la manipulación en la democracia!

IA y formación de opinión: ¡El peligro de la manipulación en la democracia!

El 22 de mayo de 2025, la Universidad Técnica de Berlín anunció importantes avances en la investigación de la dinámica social de la formación de opinión. Bajo el liderazgo de Sebastian Pokutta, vicepresidente del Instituto Zuse de Berlín y portavoz del Clúster de Excelencia MATH+, la próxima fase de financiación se centrará en el análisis de la formación de opinión a través de las redes sociales. El objetivo es fortalecer y proteger los valores democráticos, destacando al mismo tiempo la inteligencia artificial (IA) y los métodos de optimización como áreas clave de investigación. Pokutta y su equipo ven la necesidad de comprender mejor cómo se difunde la información y la influencia que tienen los algoritmos en la opinión pública.

En los últimos años, el cambio y la difusión de opiniones a través de las redes sociales ha aumentado significativamente. Según la Agencia Federal para la Educación Cívica, el acceso a información fiable se considera crucial para el funcionamiento de la democracia. La influencia de las redes sociales ha cambiado significativamente, lo que ha creado vulnerabilidades sociales. La población alemana muestra una confianza cada vez menor en los medios, cayendo del 48% en 2023 al 47% en 2024. La confianza en el gobierno también ha disminuido, del 47% al 42%.

El papel de la inteligencia artificial

La inteligencia artificial está desempeñando un papel cada vez más central en la comunicación política. Los acontecimientos recientes, en particular desde el lanzamiento de ChatGPT a finales de 2022, han reavivado el debate sobre la manipulación y la desinformación de la IA. La capacidad de la IA para generar contenido automatizado y personalizarlo específicamente se identifica como un riesgo importante. Los actores políticos utilizan específicamente algoritmos para aumentar la visibilidad de determinadas narrativas. Esto se puede ver, por ejemplo, en las estrategias manipuladoras que también utiliza la AfD para difundir sus mensajes.

En la fase de financiación prevista de MATH+, Andrea Walther, otra portavoz del proyecto, concede gran importancia a la sostenibilidad. Deberían desarrollarse algoritmos para aumentar la eficiencia en los ámbitos de la movilidad y la energía, p. optimizando las redes de transporte para reducir el consumo de energía de la IA durante el aprendizaje.

Desafíos democráticos y recomendaciones para la acción

La difusión de desinformación plantea un desafío importante para los procesos democráticos. Las falsificaciones profundas y el contenido generado por IA poco fiable amenazan el discurso democrático y podrían socavar las condiciones para un público ilustrado. Las redes sociales basadas en algoritmos complejos maximizan la participación de los usuarios, lo que lleva a la fragmentación del espacio de información y pone en peligro la cohesión social.

Para contrarrestar esta evolución, se necesitan medidas concretas. Las recomendaciones de acción incluyen la introducción de un código de conducta para los partidos políticos, campañas de educación pública y la promoción de un enfoque de múltiples partes interesadas. Garantizar la transparencia a través de algoritmos y el acceso a los datos de los usuarios es esencial. Se considera necesaria una estrecha cooperación entre los operadores de plataformas, los políticos y las organizaciones de la sociedad civil para identificar y contrarrestar los intentos de manipulación.

En general, muestra que no se pueden ignorar los desafíos que plantea la IA y sus implicaciones de largo alcance para la democracia. Los avances en la comunicación política requieren participación y regulación activas para garantizar que los valores democráticos se preserven incluso en un mundo digitalizado y controlado algorítmicamente.