IA contra la desinformación: ¡la lucha de la Dra. Vera Schmitt por la verdad!

IA contra la desinformación: ¡la lucha de la Dra. Vera Schmitt por la verdad!

En un mundo donde la desinformación se difunde cada vez más fácilmente, el grupo de investigación XplaiNLP del Universidad Técnica de Berlín representa un paso crucial para combatir este desafío. Bajo la dirección de la Dra. Vera Schmitt, el grupo se ha propuesto reforzar la resiliencia de la sociedad ante la desinformación. Con más de 4 millones de euros de financiación de terceros, su investigación tiene como objetivo desarrollar herramientas que ayuden tanto a los periodistas como al público a comprender mejor las narrativas de desinformación.

El trabajo del grupo se centra en dos proyectos principales: VeraXtract y news-polygraph. El proyecto VeraXtract tiene como objetivo analizar narrativas de desinformación complejas no solo para identificar información falsa sino también para descifrar las narrativas detrás de ellas. Una “herramienta de seguimiento narrativo” respaldada por IA debería desempeñar un papel central en este sentido. Esta tecnología proporciona explicaciones comprensibles para sus análisis y así ofrece transparencia a los usuarios.

Proyectos actuales y su importancia.

El segundo proyecto, News-polygraph, está dirigido específicamente a periodistas y está diseñado para encontrar información falsa en textos, imágenes y contenidos de audio y vídeo. La primera versión de demostración de la herramienta se anuncia para abril. Dado el desafío de que las verificaciones de datos a menudo ocurren demasiado tarde y la desinformación permanece en la memoria colectiva, el desarrollo de este tipo de tecnologías se vuelve cada vez más urgente.

El grupo de investigación XplaiNLP cuenta actualmente con 24 miembros, lo que lo convierte en uno de los grupos líderes en el campo de la detección de desinformación en Alemania. Para complementar los objetivos del grupo está la necesidad de examinar críticamente el papel de la IA en la lucha contra la desinformación. El Dr. Schmitt enfatiza la relevancia de la IA: puede actuar como un puente entre las personas y ayudar a romper las burbujas de filtro.

Los desafíos de la desinformación

La omnipresente difusión de desinformación amenaza la confianza en las instituciones democráticas y puede profundizar las divisiones sociales. El uso de la IA en este contexto resalta tanto los riesgos como las oportunidades. Además de identificar información errónea, el equipo también analiza características estilísticas para identificar contenido emocional y cargado. Estos enfoques son particularmente relevantes en el período previo a las elecciones y los conflictos, cuando la desinformación se utiliza cada vez más de manera estratégica.

El grupo también trabaja con socios como Deutsche Welle y el Centro Alemán de Investigación en Inteligencia Artificial para seguir desarrollando métodos de análisis de contenido y detección de deepfake. Iniciativas como los signatarios internacionales de verificación de datos y los verificadores de datos locales también participan activamente en la lucha contra la desinformación. La Ley de Servicios Digitales (DSA) también podría desempeñar un papel importante en la regulación de las plataformas de redes sociales en lo que respecta a la moderación de contenidos.

Un formato importante para el intercambio son eventos como el debate sobre la verificación de datos con IA, previsto para el 10 de diciembre de 2024 en la Universidad Técnica de Berlín. Aquí se discutirán los desafíos actuales, las condiciones del marco legal y la necesidad de verificadores de datos humanos para mejorar el uso de la IA por parte de la sociedad.

La visión del grupo de investigación se extiende hasta 2030, cuando la IA debería poder detectar y contextualizar la desinformación en tiempo real. Con ello se pretende restablecer la confianza en la información y, en última instancia, promover la cohesión social. Los desafíos son inconfundibles, pero los enfoques del grupo de investigación XplaiNLP ofrecen nuevas perspectivas en la lucha contra la avalancha de desinformación.