Intim kommunikasjon: Kunstige partnere som nye fortrolige?

Intim kommunikasjon: Kunstige partnere som nye fortrolige?

Nå for tiden, når kunstig intelligens (AI) blir mer og mer tilstede på mange områder av livet, skaper intim kommunikasjon med såkalte naturlige språkdialogsystemer stor interesse. Et nytt forskningsprosjekt kalt SENTIMENT, som finner sted på Universitetet i Kassel ble lansert, undersøker mulighetene og utfordringene til disse teknologiene, spesielt innen psykisk helse.

Prosjektet har som mål å fremme autentisk, menneskelignende kommunikasjon. Det blir stadig tydeligere at grensene mellom kunstig intelligens og antropomorfiserte kommunikasjonspartnere viskes ut. Brukere føler ofte en følelsesmessig tilknytning til programmer som Replika, Romantic AI og Wysa som hjelper dem å dele personlige tanker og følelser. Denne kommunikasjonsformen kan gi en støttefunksjon i hverdagen for mange mennesker.

Personvernbekymringer og følelsesmessige tilknytninger

Bruken av slike systemer reiser imidlertid betydelige personvernbekymringer. Brukere deler ofte sensitiv informasjon som brukes av dialogsystemene for å tilpasse samhandlingen. Mange ignorerer risikoen forbundet med å dele dataene sine med tredjeparter. I følge en artikkel om das-wissen.de Spørsmål om åpenhet, samtykke og kontroll er av sentral betydning når det gjelder håndtering av personopplysninger.

General Data Protection Regulation (GDPR) regulerer håndteringen av disse dataene i EU og krever at AI-leverandører gir en transparent forklaring på hvordan data brukes. Imidlertid er det ofte mangel på åpenhet og sporbarhet i beslutningsprosessene til AI-systemer. Forskningen utført i SENTIMENT bør også ta sikte på hvordan brukere blir svekket i å utøve datarettighetene sine gjennom følelsesmessige bånd til AI-partnere.

Juridiske rammer og tverrfaglige tilnærminger

SENTIMENT-prosjektet, som skal pågå til 2027 under ledelse av PD Dr. Christian Geminn, er derfor opptatt av lovkravene og beskyttelsen av personvernet ved bruk av slike teknologier. Et annet aspekt er brukernes selvbestemmelse med hensyn til deres data. Partnere i prosjektet inkluderer: Kassel kunstuniversitet og den Universitetet i Duisburg-Essen. Samarbeidet mellom disse institusjonene bidrar til å integrere ulike perspektiver på temaet og til å reflektere forskningstilnærminger.

Forskningsprosjektet mottar finansiering på 1,24 millioner euro som en del av finansieringsretningslinjen "Privacy Platform" fra det føderale departementet for utdanning og forskning (BMBF). Den hybride sluttpresentasjonen er planlagt i 2027 i en tverrfaglig utstilling, som understreker relevansen og det haster med temaet.