Inteligencia artificial: ¡los estudiantes descubren oportunidades y riesgos en el verano de física!

Inteligencia artificial: ¡los estudiantes descubren oportunidades y riesgos en el verano de física!

El 16 de septiembre de 2025 quedó claro cómo el tema de la inteligencia artificial (IA) está adquiriendo cada vez más importancia en la educación y la investigación. Durante un verano de física en la Universidad Técnica de Ilmenau bajo la dirección del Prof. Jörg Kröger, responsable del departamento de Física Experimental I y Física de Superficies, los estudiantes adquirieron conocimientos profundos sobre la IA. Aprendieron que la IA es esencialmente tecnología de programación y que el aprendizaje automático se basa principalmente en estadísticas y cálculos de probabilidad. Estos conocimientos más profundos permitieron a los jóvenes hacer preguntas críticas y desafiar la información de la IA, lo que generó un proceso de aprendizaje interactivo y reflexivo.

El verano de física no sólo promovió la comprensión de los conceptos físicos, sino que también ofreció actividades conjuntas como cenas y visitas a una pista de trineo de verano, lo que intensificó el intercambio entre los jóvenes participantes. Contaron con el apoyo de estudiantes de física, entre ellos Tomke Bronsema, quienes compartieron sus experiencias y transmitieron su entusiasmo por el tema. Sus opiniones sobre los estudios en Ilmenau inspiraron a muchos estudiantes y les dieron una idea de los campos de investigación actuales en física. Estos compromisos muestran cuán importantes son los formatos educativos interactivos en un momento en que los desarrollos tecnológicos avanzan rápidamente.

Inteligencia artificial y desafíos legales

El desarrollo técnico en el campo de la inteligencia artificial avanza continuamente. Sistemas nuevos y más potentes están revolucionando el tipo de tecnología que se integra en la vida cotidiana. Sin embargo, estos avances también traen consigo cuestiones jurídicas que plantean desafíos tanto para la jurisprudencia como para la legislación. Una cuestión central aquí es la responsabilidad por los errores cometidos por máquinas autónomas. La incertidumbre sobre si el fabricante, el programador o el operador es responsable plantea cuestiones complejas.

Un ejemplo son los robots que aprenden de forma autónoma. Si un robot de este tipo recopila datos incorrectos, surge la pregunta de quién es el responsable. En este contexto, la legislación sobre robots se debate cada vez más con el fin de crear marcos y responsabilidades más claros que afronten los desafíos legales de la IA.

Estándares éticos globales de la UNESCO

La UNESCO ha elaborado una recomendación sobre el uso ético de la inteligencia artificial, que representa un paso importante para garantizar los derechos humanos y las libertades fundamentales. Este proceso integral duró dos años e incluyó negociaciones intergubernamentales y la participación de grupos de expertos. La recomendación ofrece un marco de referencia global independientemente del gobierno o poder económico y considera valores esenciales como la privacidad, la transparencia y la no discriminación.

Un objetivo central de esta recomendación es diseñar la transformación digital para promover los derechos humanos y apoyar los objetivos de desarrollo sostenible de la ONU. En este contexto, se definen campos políticos concretos de acción, que van desde el medio ambiente, la educación y la salud hasta la promoción de la diversidad en la industria tecnológica. Un aspecto particularmente importante es la llamada Evaluación de Impacto Ético de los sistemas de IA, cuyo objetivo es ayudar a evaluar tanto los beneficios como los riesgos potenciales. Además, se enfatiza un principio de precaución, cuyo objetivo es evitar el uso de sistemas de IA riesgosos.

En Alemania, la Comisión Alemana de la UNESCO se compromete a implementar estas directrices éticas y asesora a ministerios y organizaciones. Se llevan a cabo eventos especializados e informes científicos para desarrollar enfoques efectivos que integren y desarrollen aún más la industria tecnológica.