Am 2. März 2026 fand an der Bucerius Law School eine lebhafte Diskussion über die Auswirkungen von Künstlicher Intelligenz (KI) auf intime Lebensbereiche statt. Unter der Leitung von Prof. Dr. Linda Kuschel, akademische Direktorin des Bucerius IP-Centers, tauschten sich Ijoma Mangold, Kulturpolitischer Korrespondent bei DIE ZEIT, Lisa Mühl, wissenschaftliche Mitarbeiterin der Universität Duisburg-Essen, und Dr. Maxi Nebel, ebenfalls wissenschaftliche Mitarbeiterin an der Universität Kassel, über die Herausforderungen und Chancen aus, die KI für menschliche Beziehungen mit sich bringt. Mangold teilte dabei persönliche Erfahrungen mit dem Chatbot „Claude“, der ihn in Gesprächen emotional ansprach, ohne jedoch als Superintelligenz aufzutreten.

Lisa Mühl betonte die Einwirkungen von General-Purpose-AI-Systemen wie „ChatGPT“ und „Claude“ auf die sozialen und emotionalen Interaktionen der Nutzer:innen. Diese empfinden häufig KI-Interaktionen als empathischer. Eine interessante Erkenntnis ist, dass viele Nutzer bereitwillig sensible Daten teilen, weil sie sich in einem geschützten Raum wähnen. Nebel referierte zudem über die unzureichenden gesetzlichen Rahmenbedingungen, die derzeit die Nutzung von KI-Companions betreffen.

Regulatorische Herausforderungen

Die Diskussion unterstrich, dass viele Risiken im Kontext von KI-Companions in der aktuellen KI-Verordnung nicht ausreichend behandelt werden. Dies liegt unter anderem daran, dass sie zum Zeitpunkt der Ausarbeitung nicht als relevant angesehen wurden. Zudem ist die Datenschutz-Grundverordnung (DSGVO) die wichtigste Regelung, doch bestehen Unsicherheiten hinsichtlich der Neutrainierung von KI-Systemen nach Widerruf von Einwilligungen. Der Digital Services Act konzentriert sich vorrangig auf Plattforminhalte, während rechtliche Rahmenbedingungen für KI-generierte Interaktionen klar definiert und dringend notwendig sind.

Die beiden Expert:innen Mangold und Nebel waren sich dabei nicht einig, wie weit die staatliche Regulierung gehen sollte. Während Mangold die individuellen Abwehrrechte hervorhob, plädierte Nebel für staatliche Maßnahmen zum Schutz der Grundrechte. Die Diskussion verdeutlichte, dass die Bucerius Law School als Debattenforum zentrale Herausforderungen für Demokratie und Rechtsstaat aufwirft.

Der Einfluss von KI auf Beziehungen

Die Rolle der KI in intimen Beziehungen nimmt rasant zu. Prognosen deuten darauf hin, dass bis 2025 über 68% aller neuen Beziehungen durch KI-optimierte Plattformen initiiert werden. KI-gesteuerte Dating-Apps bieten nicht nur passende Partner an, sondern fungieren auch als emotionale Unterstützer. Experten schätzen den globalen Markt für emotionale KI-Companions bis 2025 auf über 18 Milliarden Dollar. Besonders auffällig ist, dass 42% der Nutzer von KI-Companions tiefe emotionale Bindungen zu ihren digitalen Partnern entwickeln. Gleichzeitig warnen Psychologen davor, dass solche virtuellen Beziehungen die Wertschätzung für echte menschliche Bindungen beeinträchtigen könnten.

KI-gestützte Algorithmen analysieren Kommunikationsmuster und Persönlichkeitsmerkmale, um die Beziehungskompatibilität zu verbessern. Biometrische Daten werden integriert, um Partnervorschläge zu optimieren. Dennoch zeigt sich, dass 67% der Nutzer sich der Datenerhebung bei diesen Apps bewusst sind, allerdings nur 23% die Nutzungsbedingungen verstehen. Fehlende gesetzliche Regelungen schaffen erhebliche Schutzlücken, während ethische Fragen zur Objektifizierung und den veränderten Erwartungen an Partnerschaften aufgeworfen werden.

Emotionale Nähe zu KI

Forschungen zeigen, dass Menschen emotionalere Bindungen zu KIs aufbauen können als zu menschlichen Gegenübern. Zwei Online-Studien, durchgeführt von Prof. Dr. Bastian Schiller von der Universität Heidelberg, belegen, dass das Gefühl von Nähe erhöht ist, wenn Probanden nicht wissen, dass sie mit einem KI-Chatbot sprechen. Bei emotionalen Gesprächen gaben die Teilnehmer mehr von sich preis, was ein Gefühl der Selbstoffenbarung verstärkte. Diese Erkenntnisse weisen auf das Potenzial von KI in der psychologischen Unterstützung und in der Pflege hin, werfen jedoch auch die Frage auf, inwiefern dies zu unbeabsichtigten emotionalen Bindungen führen kann.

Die Ergebnisse verdeutlichen die Notwendigkeit klarer ethischer und regulatorischer Leitlinien zur Gestaltung von KI als sozialem Akteur. Diese richtungsweisende Diskussion an der Bucerius Law School und die damit zusammenhängenden Forschungen stellen die Grundlagen für zukünftige Entwicklungen in der Interaktion zwischen Mensch und Maschine dar.