¡Un estudio internacional exige estándares éticos para la inteligencia artificial!

¡Un estudio internacional exige estándares éticos para la inteligencia artificial!

El 18 de marzo de 2025 finalizó en la Universidad Johannes Gutenberg de Mainz (JGU) el proyecto de investigación internacional “AI FORA – Inteligencia artificial para la evaluación”. Este proyecto, financiado con alrededor de 1,5 millones de euros por la Fundación Volkswagen, está dedicado al uso de la inteligencia artificial (IA) para la distribución justa de los beneficios sociales públicos. En un momento en el que los avances tecnológicos se aceleran, la necesidad de sistemas más justos es cada vez más clara.

Los resultados del proyecto se publicaron en una antología a la que se puede acceder gratuitamente en línea. Se trata en particular de la distribución de prestaciones como pensiones, prestaciones por desempleo, solicitudes de asilo y plazas en guarderías. Utilizando estudios de caso de nueve países de cuatro continentes (Alemania, España, Estonia, Ucrania, Estados Unidos, Nigeria, Irán, India y China), los investigadores muestran que los criterios de equidad dependen en gran medida de los contextos culturales y sociales.

Desafíos globales y soluciones locales

El análisis deja claro que, por ejemplo, en la India el sistema de castas y en China el comportamiento cívico son factores importantes que influyen en la concesión de beneficios sociales. Estas diferencias resaltan la importancia de los sistemas de IA flexibles y dinámicos que puedan adaptarse a las condiciones locales.

Una preocupación central del proyecto es la participación de todos los actores sociales en el desarrollo de sistemas de IA participativos y justos. Las voces de los grupos vulnerables en particular son cruciales para evitar la discriminación sistémica y desarrollar soluciones justas.

El proyecto de investigación es parte de un discurso más amplio sobre el uso ético de la IA. Mientras tanto, la UNESCO ha publicado una recomendación sobre el uso ético de la inteligencia artificial. Esto proporciona un marco de referencia global para el desarrollo de medidas nacionales. Los derechos humanos y las libertades fundamentales están en primer plano. También se incluyen valores fundamentales como la privacidad, la transparencia y la no discriminación.

Dimensiones éticas de la IA

El rápido desarrollo de las tecnologías de inteligencia artificial plantea cuestiones éticas complejas que tienen consecuencias de gran alcance para diversas áreas de la vida. Las investigaciones actuales muestran que no se trata sólo de aumentar la eficiencia, sino también de abordar la protección de datos, la pérdida de autonomía y la transparencia de las decisiones. Los conflictos sobre responsabilidad y responsabilidad en caso de decisiones equivocadas plantean cada vez más desafíos legales y éticos.

Otra preocupación es el riesgo de sesgo en los sistemas de IA, que puede surgir de datos de entrenamiento sesgados. Estos desafíos requieren un enfoque interdisciplinario para desarrollar pautas éticas apropiadas. Procedimientos como la Evaluación de Impacto Ético, que evalúa las ventajas y desventajas de los sistemas de IA, se consideran necesarios para garantizar que la IA no sólo sea respetada sino también fomentada.

La necesidad de impartir periódicamente formación ética a los desarrolladores y fomentar debates públicos sobre la IA también son recomendaciones clave. La investigación destaca la importancia de la transparencia y la capacidad de explicar las decisiones de IA para aumentar la confianza del público en estas tecnologías.

Se publicará otro libro basado en los resultados del proyecto AI FORA y presentará modelos y simulaciones relevantes para las políticas. Su objetivo es proponer mejoras en los sistemas de IA para abordar cuestiones de equidad y discriminación, una tarea urgente en la sociedad actual que depende cada vez más de las tecnologías impulsadas por la IA.

En general, el uso ético de la IA no es solo un desafío, sino también una oportunidad para dar forma a la transformación digital de tal manera que sirva a los derechos humanos y apoye los objetivos de desarrollo sostenible de las Naciones Unidas. Los avances en esta área serán cruciales para el futuro de la justicia social y la integración tecnológica en la vida cotidiana.