Comunicación íntima: ¿Socios artificiales como nuevos confidentes?

Comunicación íntima: ¿Socios artificiales como nuevos confidentes?

Hoy en día, cuando la inteligencia artificial (IA) está cada vez más presente en muchos ámbitos de la vida, la comunicación íntima con los llamados sistemas de diálogo en lenguaje natural está generando un gran interés. Un nuevo proyecto de investigación llamado SENTIMENT, que se está llevando a cabo en el Universidad de Kassel fue lanzado, examina las oportunidades y desafíos de estas tecnologías, particularmente en el área de la salud mental.

El proyecto tiene como objetivo promover una comunicación auténtica y humana. Cada vez está más claro que los límites entre la IA y los interlocutores de comunicación antropomorfizados se están desdibujando. Los usuarios suelen sentir una conexión emocional con programas como Replika, Romantic AI y Wysa que les ayudan a compartir pensamientos y sentimientos personales. Esta forma de comunicación puede proporcionar una función de apoyo en la vida cotidiana de muchas personas.

Preocupaciones por la privacidad y apegos emocionales

Sin embargo, el uso de tales sistemas plantea importantes preocupaciones sobre la privacidad. Los usuarios suelen compartir información confidencial que los sistemas de diálogo utilizan para personalizar la interacción. Mucha gente ignora los riesgos asociados a compartir sus datos con terceros. Según un artículo sobre das-wissen.de Las cuestiones sobre transparencia, consentimiento y control son de importancia central cuando se trata del manejo de datos personales.

El Reglamento General de Protección de Datos (GDPR) regula el manejo de estos datos en la UE y exige que los proveedores de IA proporcionen una explicación transparente de cómo se utilizan los datos. Sin embargo, a menudo existe una falta de transparencia y trazabilidad en los procesos de toma de decisiones de los sistemas de IA. La investigación llevada a cabo en SENTIMENT también debería apuntar a cómo los usuarios se ven perjudicados en el ejercicio de sus derechos sobre los datos a través de vínculos emocionales con socios de IA.

Marco legal y enfoques interdisciplinarios

Por ello, el proyecto SENTIMENT, que se desarrollará hasta 2027 bajo la dirección del PD Dr. Christian Geminn, se preocupa por los requisitos legales y la protección de la privacidad en el uso de dichas tecnologías. Otro aspecto es la autodeterminación de los usuarios respecto de sus datos. Los socios del proyecto incluyen: Universidad de Arte de Kassel y el Universidad de Duisburgo-Essen. La colaboración entre estas instituciones ayuda a integrar diferentes perspectivas sobre el tema y a reflejar enfoques de investigación.

El proyecto de investigación recibe una financiación de 1,24 millones de euros en el marco de la directriz de financiación "Privacy Platform" del Ministerio Federal de Educación e Investigación (BMBF). La presentación final híbrida está prevista para 2027 en una exposición interdisciplinaria, que subraya la relevancia y urgencia del tema.