Comunicare intima: parteneri artificiali ca noi confidenti?

Comunicare intima: parteneri artificiali ca noi confidenti?

În zilele noastre, când inteligența artificială (IA) devine din ce în ce mai prezentă în multe domenii ale vieții, comunicarea intimă cu așa-numitele sisteme de dialog în limbaj natural generează un mare interes. Un nou proiect de cercetare numit SENTIMENT, care are loc la Universitatea din Kassel a fost lansat, examinează oportunitățile și provocările acestor tehnologii, în special în domeniul sănătății mintale.

Proiectul își propune să promoveze comunicarea autentică, asemănătoare omului. Devine din ce în ce mai clar că granițele dintre AI și partenerii de comunicare antropomorfizați se estompează. Utilizatorii simt adesea o conexiune emoțională cu programe precum Replika, Romantic AI și Wysa, care îi ajută să împărtășească gânduri și sentimente personale. Această formă de comunicare poate oferi o funcție de sprijin în viața de zi cu zi pentru mulți oameni.

Preocupări legate de confidențialitate și atașamente emoționale

Cu toate acestea, utilizarea unor astfel de sisteme ridică preocupări semnificative privind confidențialitatea. Utilizatorii partajează adesea informații sensibile care sunt folosite de sistemele de dialog pentru a personaliza interacțiunea. Mulți oameni ignoră riscurile asociate cu partajarea datelor lor cu terți. Potrivit unui articol despre das-wissen.de Întrebările despre transparență, consimțământ și control sunt de o importanță centrală atunci când vine vorba de manipularea datelor cu caracter personal.

Regulamentul general privind protecția datelor (GDPR) reglementează gestionarea acestor date în UE și solicită furnizorilor de inteligență artificială să ofere o explicație transparentă a modului în care sunt utilizate datele. Cu toate acestea, există adesea o lipsă de transparență și trasabilitate în procesele decizionale ale sistemelor AI. Cercetarea efectuată în SENTIMENT ar trebui să vizeze, de asemenea, modul în care utilizatorii sunt afectați în exercitarea drepturilor lor de date prin legături emoționale cu partenerii AI.

Cadrul legal și abordări interdisciplinare

Proiectul SENTIMENT, care se va derula până în 2027 sub conducerea PD Dr. Christian Geminn se preocupă așadar de cerințele legale și de protecția vieții private atunci când se utilizează astfel de tehnologii. Un alt aspect este autodeterminarea utilizatorilor cu privire la datele lor. Printre partenerii proiectului se numără: Universitatea de Artă Kassel iar cel Universitatea din Duisburg-Essen. Colaborarea dintre aceste instituții ajută la integrarea diferitelor perspective asupra subiectului și la reflectarea abordărilor de cercetare.

Proiectul de cercetare primește o finanțare de 1,24 milioane de euro ca parte a ghidului de finanțare „Platforma de confidențialitate” de la Ministerul Federal al Educației și Cercetării (BMBF). Prezentarea finală hibridă este planificată pentru 2027 într-o expoziție interdisciplinară, care subliniază relevanța și urgența subiectului.