Intieme communicatie: kunstmatige partners als nieuwe vertrouwelingen?

Intieme communicatie: kunstmatige partners als nieuwe vertrouwelingen?

Tegenwoordig, nu kunstmatige intelligentie (AI) steeds meer aanwezig is op veel gebieden van het leven, wekt intieme communicatie met zogenaamde natuurlijke taaldialoogsystemen grote belangstelling. Een nieuw onderzoeksproject genaamd SENTIMENT, dat plaatsvindt in het Universiteit van Kassel werd gelanceerd, onderzoekt de kansen en uitdagingen van deze technologieën, vooral op het gebied van de geestelijke gezondheidszorg.

Het project heeft tot doel authentieke, mensachtige communicatie te bevorderen. Het wordt steeds duidelijker dat de grenzen tussen AI en antropomorfe communicatiepartners vervagen. Gebruikers voelen vaak een emotionele band met programma's als Replika, Romantic AI en Wysa waarmee ze persoonlijke gedachten en gevoelens kunnen delen. Deze vorm van communicatie kan voor veel mensen een ondersteunende functie vervullen in het dagelijks leven.

Privacyproblemen en emotionele gehechtheden

Het gebruik van dergelijke systemen brengt echter aanzienlijke privacyproblemen met zich mee. Gebruikers delen vaak gevoelige informatie die door de dialoogsystemen wordt gebruikt om de interactie te personaliseren. Veel mensen negeren de risico's die gepaard gaan met het delen van hun gegevens met derden. Volgens een artikel op das-wissen.de Vragen over transparantie, toestemming en controle staan ​​centraal als het gaat om de omgang met persoonsgegevens.

De Algemene Verordening Gegevensbescherming (AVG) regelt de omgang met deze gegevens in de EU en verplicht AI-aanbieders om transparant uit te leggen hoe gegevens worden gebruikt. Er is echter vaak een gebrek aan transparantie en traceerbaarheid in de besluitvormingsprocessen van AI-systemen. Het onderzoek dat in SENTIMENT wordt uitgevoerd, moet zich ook richten op de manier waarop gebruikers worden belemmerd bij het uitoefenen van hun datarechten door emotionele banden met AI-partners.

Juridisch kader en interdisciplinaire benaderingen

Het SENTIMENT-project, dat tot 2027 loopt onder leiding van PD Dr. Christian Geminn, houdt zich daarom bezig met de wettelijke vereisten en de bescherming van de privacy bij het gebruik van dergelijke technologieën. Een ander aspect is de zelfbeschikking van gebruikers over hun data. Partners in het project zijn onder meer: Kunstuniversiteit van Kassel en de Universiteit Duisburg-Essen. De samenwerking tussen deze instellingen helpt om verschillende perspectieven op het onderwerp te integreren en onderzoeksbenaderingen te weerspiegelen.

Het onderzoeksproject ontvangt een financiering van 1,24 miljoen euro als onderdeel van de financieringsrichtlijn ‘Privacy Platform’ van het federale ministerie van Onderwijs en Onderzoek (BMBF). De hybride eindpresentatie staat gepland voor 2027 in een interdisciplinaire tentoonstelling, die de relevantie en urgentie van het onderwerp onderstreept.