In der heutigen Zeit, wo künstliche Intelligenz (KI) in vielen Lebensbereichen immer präsenter wird, stößt die intime Kommunikation mit sogenannten natürlichsprachlichen Dialogsystemen auf großes Interesse. Ein neues Forschungsprojekt namens SENTIMENT, das an der Universität Kassel ins Leben gerufen wurde, untersucht die Möglichkeiten und Herausforderungen dieser Technologien, insbesondere im Bereich der psychischen Gesundheit.
Das Projekt zielt darauf ab, eine authentische, menschenähnliche Kommunikation zu fördern. Es wird zunehmend deutlich, dass die Grenzen zwischen KI und anthropomorphisierten Kommunikationspartnern verschwimmen. Nutzende empfinden oft eine emotionale Bindung zu Programmen wie Replika, Romantic AI und Wysa, die ihnen helfen, persönliche Gedanken und Gefühle zu teilen. Diese Form der Kommunikation kann für viele Menschen eine unterstützende Funktion im Alltag darstellen.
Datenschutzbedenken und emotionale Bindungen
Die Nutzung solcher Systeme wirft jedoch erhebliche Datenschutzbedenken auf. Nutzer*innen teilen häufig sensible Informationen, die von den Dialogsystemen genutzt werden, um die Interaktion zu personalisieren. Viele Menschen ignorieren dabei die Risiken, die mit der Weitergabe ihrer Daten an Dritte verbunden sind. Laut einem Artikel auf das-wissen.de sind Fragen zu Transparenz, Zustimmung und Kontrolle von zentraler Bedeutung, wenn es um den Umgang mit personenbezogenen Daten geht.
Die Datenschutzgrundverordnung (DSGVO) regelt in der EU den Umgang mit diesen Daten und erfordert von den KI-Anbietern eine transparente Darlegung der Datennutzung. Häufig fehlt es allerdings an Transparenz und Nachvollziehbarkeit in den Entscheidungsprozessen der KI-Systeme. Die in SENTIMENT durchgeführten Forschungen sollen auch darauf abzielen, wie Nutzer*innen durch emotionale Bindungen an AI-Partner in der Wahrnehmung ihrer Datenrechte beeinträchtigt werden.
Rechtliche Rahmenbedingungen und interdisziplinäre Ansätze
Das Projekt SENTIMENT, das bis 2027 unter der Leitung von PD Dr. Christian Geminn gefördert wird, beschäftigt sich daher mit den rechtlichen Anforderungen und dem Schutz der Privatsphäre bei der Nutzung solcher Technologien. Ein weiterer Aspekt ist die Selbstbestimmung der Nutzer*innen in Bezug auf ihre Daten. Partner des Projekts sind unter anderem die Kunsthochschule Kassel und die Universität Duisburg-Essen. Die Zusammenarbeit dieser Institutionen trägt dazu bei, unterschiedliche Perspektiven auf die Thematik zu integrieren und die Forschungsansätze zu reflektieren.
Das Forschungsvorhaben erhält eine Förderung von 1,24 Millionen Euro im Rahmen der Förderrichtlinie „Plattform Privatheit“ durch das Bundesministerium für Bildung und Forschung (BMBF). Die hybride Abschlusspräsentation ist für 2027 in einer interdisziplinären Ausstellung geplant, was die Relevanz und Dringlichkeit der Thematik unterstreicht.
