Intim kommunikation: Artificiella partners som nya förtrogna?

Intim kommunikation: Artificiella partners som nya förtrogna?

Nuförtiden, när artificiell intelligens (AI) blir mer och mer närvarande på många områden i livet, skapar intim kommunikation med så kallade naturliga språkdialogsystem stort intresse. Ett nytt forskningsprojekt kallat SENTIMENT, som äger rum på Universitetet i Kassel lanserades, undersöker möjligheterna och utmaningarna med dessa tekniker, särskilt inom området psykisk hälsa.

Projektet syftar till att främja autentisk, människoliknande kommunikation. Det blir allt tydligare att gränserna mellan AI och antropomorfiserade kommunikationspartner suddas ut. Användare känner ofta en känslomässig koppling till program som Replika, Romantic AI och Wysa som hjälper dem att dela personliga tankar och känslor. Denna form av kommunikation kan ge en stödjande funktion i vardagen för många människor.

Integritetsproblem och känslomässiga anknytningar

Användningen av sådana system väcker dock betydande integritetsproblem. Användare delar ofta med sig av känslig information som används av dialogsystemen för att anpassa interaktionen. Många människor ignorerar riskerna med att dela sina data med tredje part. Enligt en artikel om das-wissen.de Frågor om transparens, samtycke och kontroll är av central betydelse när det gäller hanteringen av personuppgifter.

Den allmänna dataskyddsförordningen (GDPR) reglerar hanteringen av dessa uppgifter i EU och kräver att AI-leverantörer tillhandahåller en transparent förklaring av hur data används. Det saknas dock ofta transparens och spårbarhet i AI-systemens beslutsprocesser. Forskningen som utförs i SENTIMENT bör också syfta till hur användare försvåras i att utöva sina datarättigheter genom känslomässiga band till AI-partner.

Juridiska ramar och tvärvetenskapliga angreppssätt

SENTIMENT-projektet, som kommer att pågå till 2027 under ledning av PD Dr. Christian Geminn, är därför bekymrat över lagkraven och skyddet av integritet vid användning av sådan teknik. En annan aspekt är användarnas självbestämmande med avseende på deras data. Partners i projektet inkluderar: Kassel konstuniversitet och den Universitetet i Duisburg-Essen. Samarbetet mellan dessa institutioner hjälper till att integrera olika perspektiv på ämnet och att spegla forskningsansatser.

Forskningsprojektet får finansiering på 1,24 miljoner euro som en del av finansieringsriktlinjen "Privacy Platform" från förbundsministeriet för utbildning och forskning (BMBF). Den hybrida slutpresentationen är planerad till 2027 i en tvärvetenskaplig utställning, vilket understryker ämnets relevans och brådska.