Intim kommunikation: Kunstige partnere som nye fortrolige?

Intim kommunikation: Kunstige partnere som nye fortrolige?

I dag, hvor kunstig intelligens (AI) bliver mere og mere til stede på mange områder af livet, vækker intim kommunikation med såkaldte naturlige sprogdialogsystemer stor interesse. Et nyt forskningsprojekt kaldet SENTIMENT, som finder sted på Universitetet i Kassel blev lanceret, undersøger mulighederne og udfordringerne ved disse teknologier, især inden for mental sundhed.

Projektet har til formål at fremme autentisk, menneskelignende kommunikation. Det bliver mere og mere klart, at grænserne mellem kunstig intelligens og menneskeskabte kommunikationspartnere udviskes. Brugere føler ofte en følelsesmæssig forbindelse til programmer som Replika, Romantic AI og Wysa, der hjælper dem med at dele personlige tanker og følelser. Denne kommunikationsform kan give en understøttende funktion i hverdagen for mange mennesker.

Bekymringer om privatliv og følelsesmæssige tilknytninger

Brugen af ​​sådanne systemer rejser imidlertid betydelige bekymringer om privatlivets fred. Brugere deler ofte følsomme oplysninger, som bruges af dialogsystemerne til at tilpasse interaktionen. Mange mennesker ignorerer de risici, der er forbundet med at dele deres data med tredjeparter. Ifølge en artikel vedr das-wissen.de Spørgsmål om gennemsigtighed, samtykke og kontrol er af central betydning, når det kommer til håndtering af persondata.

Den generelle databeskyttelsesforordning (GDPR) regulerer håndteringen af ​​disse data i EU og kræver, at AI-udbydere giver en gennemsigtig forklaring på, hvordan data bruges. Der er dog ofte mangel på gennemsigtighed og sporbarhed i AI-systemers beslutningsprocesser. Forskningen udført i SENTIMENT bør også sigte mod, hvordan brugere er svækket i at udøve deres datarettigheder gennem følelsesmæssige bånd til AI-partnere.

Juridiske rammer og tværfaglige tilgange

SENTIMENT-projektet, som løber frem til 2027 under ledelse af PD Dr. Christian Geminn, er derfor optaget af lovkravene og beskyttelsen af ​​privatlivets fred ved brug af sådanne teknologier. Et andet aspekt er brugernes selvbestemmelse med hensyn til deres data. Partnere i projektet omfatter: Kassel kunstuniversitet og den Universitetet i Duisburg-Essen. Samarbejdet mellem disse institutioner er med til at integrere forskellige perspektiver på emnet og til at afspejle forskningstilgange.

Forskningsprojektet modtager støtte på 1,24 millioner euro som en del af finansieringsvejledningen "Privacy Platform" fra det føderale ministerium for uddannelse og forskning (BMBF). Den hybride slutpræsentation er planlagt til 2027 i en tværfaglig udstilling, som understreger emnets relevans og presserende karakter.