Suche
Mein Konto
IA orientada al futuro: ¡Clúster de excelencia con enfoque ético en Darmstadt!
La Universidad del Sarre forma parte del nuevo Clúster de Excelencia RAI, que desarrolla sistemas de IA pioneros y promueve estándares éticos.
IA orientada al futuro: ¡Clúster de excelencia con enfoque ético en Darmstadt!
El 23 de mayo de 2025 se presentó el nuevo Clúster de Excelencia “Inteligencia Artificial Razonable” (RAI) bajo el liderazgo de la Universidad Técnica de Darmstadt. Uno de los objetivos del clúster es desarrollar una nueva generación de sistemas de IA que se caractericen por el uso sensato de los recursos, la protección de datos y la mejora continua. La profesora Isabel Valera de la Universidad del Sarre forma parte del equipo central y, por lo tanto, contribuye significativamente a la estrategia y la investigación del clúster.
El Grupo de Excelencia RAI aborda las debilidades actuales de los sistemas de IA actuales, incluida la falta de habilidades de pensamiento lógico y las dificultades en situaciones nuevas. Los proyectos también pretenden superar la gran necesidad de adaptación y los amplios requisitos de recursos de las tecnologías de IA existentes. Equipos multidisciplinarios trabajan en cuatro áreas de investigación claramente definidas para dar forma activamente a la IA del futuro.
Áreas de investigación del cluster
- Systemic AI: Entwicklung von Software- und Systemmethoden zur effizienten Integration von RAI-Systemen.
- Observational AI: Kontextbezogenes Lernen zur Ausstattung von RAI mit gesundem Menschenverstand.
- Active AI: Erforschung von lebenslangem, adaptivem Lernen, um anpassungsfähigere RAI-Systeme zu schaffen.
- Challenging AI: Entwicklung von Verfahren zur Evaluierung und Verbesserung der RAI-Systemleistung.
Marcus Rohrbach, profesor de informática en la Universidad Técnica de Darmstadt, destaca la importancia de la RAI para el futuro de la IA en Alemania y en todo el mundo. Integrar capacidades tecnológicas con estándares éticos, eficiencia y transparencia es una responsabilidad central del cluster. Kristian Kersting, codirector de hessian.AI y profesor de informática en la TU, agradece la inclusión de la RAI en las estrategias de excelencia federales y estatales. También enfatiza la necesidad de una IA soberana europea para crear sus propios estándares y tecnologías confiables.
Marco ético y recomendaciones internacionales.
En el contexto del uso ético de la inteligencia artificial, la UNESCO ha emitido una recomendación fundamental que se centra en los derechos humanos y las libertades fundamentales. Esta base jurídica internacional, basada en dos años de intensas negociaciones, proporciona un marco de referencia global para todos los países, independientemente de su forma de gobierno o fortaleza económica.
La Recomendación introduce valores esenciales y principios éticos como la privacidad, la transparencia y la no discriminación. Se destaca que la IA no sólo debe respetar los derechos de las personas, sino también promoverlos. Un elemento central de la recomendación es el principio de precaución, que establece que si existe una posibilidad razonable de efectos negativos, no se debe continuar con el uso de determinadas aplicaciones de IA. También se aborda el uso sostenible de los sistemas de IA en relación con la protección del medio ambiente.
La Comisión Alemana para la UNESCO se compromete activamente a implementar la recomendación en Alemania proporcionando información, asesoramiento y organizando eventos especializados. Junto con expertos, se desarrollan enfoques concretos, incluidas medidas para la igualdad de género y el uso ético de la IA en el arte y la cultura.