Comunicazione intima: partner artificiali come nuovi confidenti?

Comunicazione intima: partner artificiali come nuovi confidenti?

Al giorno d'oggi, quando l'intelligenza artificiale (AI) è sempre più presente in molti ambiti della vita, la comunicazione intima con i cosiddetti sistemi di dialogo in linguaggio naturale sta suscitando grande interesse. Un nuovo progetto di ricerca chiamato SENTIMENT, che si svolge presso il Università di Cassel è stato lanciato, esamina le opportunità e le sfide di queste tecnologie, in particolare nel settore della salute mentale.

Il progetto mira a promuovere una comunicazione autentica, simile a quella umana. Sta diventando sempre più chiaro che i confini tra l’intelligenza artificiale e i partner di comunicazione antropomorfizzati stanno diventando sempre più sfumati. Gli utenti spesso sentono una connessione emotiva con programmi come Replika, Romantic AI e Wysa che li aiutano a condividere pensieri e sentimenti personali. Questa forma di comunicazione può svolgere per molte persone una funzione di supporto nella vita quotidiana.

Preoccupazioni sulla privacy e attaccamenti emotivi

Tuttavia, l’uso di tali sistemi solleva notevoli preoccupazioni sulla privacy. Gli utenti spesso condividono informazioni sensibili che vengono utilizzate dai sistemi di dialogo per personalizzare l'interazione. Molte persone ignorano i rischi associati alla condivisione dei propri dati con terze parti. Secondo un articolo su das-wissen.de Le questioni relative alla trasparenza, al consenso e al controllo sono di fondamentale importanza quando si tratta del trattamento dei dati personali.

Il Regolamento generale sulla protezione dei dati (GDPR) regola la gestione di questi dati nell’UE e richiede ai fornitori di intelligenza artificiale di fornire una spiegazione trasparente su come vengono utilizzati i dati. Tuttavia, spesso manca trasparenza e tracciabilità nei processi decisionali dei sistemi di IA. La ricerca condotta nell’ambito di SENTIMENT dovrebbe anche mirare a capire in che modo gli utenti sono ostacolati nell’esercizio dei propri diritti sui dati a causa dei legami emotivi con i partner dell’IA.

Quadro giuridico e approcci interdisciplinari

Il progetto SENTIMENT, che durerà fino al 2027 sotto la guida del Dr. Christian Geminn, PD, si occupa quindi dei requisiti legali e della protezione della privacy nell'utilizzo di tali tecnologie. Un altro aspetto è l’autodeterminazione degli utenti riguardo ai propri dati. I partner del progetto includono: Università d'arte di Kassel e il Università di Duisburg-Essen. La collaborazione tra queste istituzioni aiuta a integrare diverse prospettive sull’argomento e a riflettere gli approcci di ricerca.

Il progetto di ricerca riceve un finanziamento di 1,24 milioni di euro nell’ambito della linea guida di finanziamento “Piattaforma Privacy” del Ministero Federale dell’Istruzione e della Ricerca (BMBF). La presentazione finale ibrida è prevista per il 2027 in una mostra interdisciplinare, che sottolinea la rilevanza e l'urgenza del tema.