Investigadores de Ilmenau desarrollan el uso seguro de la IA en sistemas críticos

Investigadores de Ilmenau desarrollan el uso seguro de la IA en sistemas críticos

La Universidad Técnica de Ilmenau se ha integrado en un grupo de investigación pionero de la Fundación Alemana de Investigación (DFG) que se ocupa de los desafíos del aprendizaje automático. Su objetivo es aumentar la seguridad, el rendimiento y la eficiencia de los datos de esta tecnología. La atención se centra especialmente en sistemas de control complejos y aplicaciones críticas para la seguridad que cubren áreas esenciales como los sistemas de energía eléctrica, la conducción autónoma y la robótica. El profesor de matemáticas de Ilmenau, Karl Worthmann, liderará la interfaz entre el aprendizaje automático y la precisión matemática.

El proyecto de investigación, coordinado por la Universidad Leibniz de Hannover, comenzó a finales de abril con un taller internacional. Para los próximos cuatro años se destinarán casi 3,5 millones de euros de financiación, de los cuales 486.400 euros irán directamente a la Universidad Técnica Ilmenau. Esta iniciativa destaca el papel central del aprendizaje automático en el desarrollo de la inteligencia artificial y los límites que alcanzan los sistemas tradicionales en términos de requisitos de seguridad durante las operaciones en curso.

Integración en la industria

Otro aspecto crucial de los desarrollos actuales es la integración del aprendizaje automático en aplicaciones industriales. Un curso de formación interno recientemente creado titulado "Aprendizaje automático para aplicaciones críticas para la seguridad en la industria" tiene como objetivo tener en cuenta principios de seguridad específicos. Esto se hace teniendo en cuenta los estándares existentes y futuros para la inteligencia artificial, así como los estándares específicos de la industria.

Los participantes en la capacitación aprenden sobre los efectos del aprendizaje automático en la seguridad funcional. Esto también incluye la aplicación de conceptos clave como robustez, sesgo y certeza de predicción, así como el desarrollo de un ciclo de vida de seguridad específico del proyecto. El público objetivo de esta formación son los ingenieros que necesitan integrar la IA en los procesos de producción y proporcionar pruebas de seguridad. El programa proporciona un marco estructurado y un conjunto de herramientas completo para el uso seguro del aprendizaje automático.

Fundamentos tecnológicos

El elemento fundamental que sustenta el aprendizaje automático son las redes neuronales, un subconjunto de esta tecnología. Las redes neuronales están fuertemente inspiradas en las conexiones entre las células nerviosas del cerebro humano. Estas redes artificiales constan de múltiples capas de nodos de datos unidos entre sí mediante conexiones ponderadas. Al presentar datos repetidamente, la red neuronal aprende a clasificar la información de manera más efectiva.

El ajuste de los pesos entre las neuronas se produce de forma continua, lo que hace que el modelo creado sea aplicable a datos desconocidos. Un tipo especial de redes neuronales son las llamadas "redes neuronales profundas". Estas redes pueden contener cientos de miles o incluso millones de capas de neuronas, lo que permite resolver problemas cada vez más complejos mediante el aprendizaje profundo. La formación continua y la adaptación de las conexiones son cruciales para el éxito de estos procesos de aprendizaje.

En resumen, se puede decir que la Universidad Técnica de Ilmenau y sus socios contribuyen significativamente a un mayor desarrollo del aprendizaje automático y su aplicación segura en áreas críticas a través de enfoques innovadores y programas de capacitación.

Para obtener más información sobre el grupo de investigación de TU Ilmenau, visite tu-ilmenau.de. Puede encontrar información detallada sobre la formación interna en iks.fraunhofer.de e información adicional sobre inteligencia artificial y redes neuronales en iks.fraunhofer.de.