Intimní komunikace: Umělí partneři jako noví důvěrníci?

Intimní komunikace: Umělí partneři jako noví důvěrníci?

V dnešní době, kdy je umělá inteligence (AI) stále více přítomná v mnoha oblastech života, vyvolává velký zájem intimní komunikace s takzvanými systémy dialogu přirozeného jazyka. Nový výzkumný projekt s názvem SENTIMENT, který probíhá v Univerzita v Kasselu byla zahájena, zkoumá příležitosti a výzvy těchto technologií, zejména v oblasti duševního zdraví.

Projekt si klade za cíl podporovat autentickou, lidskou komunikaci. Je stále jasnější, že se hranice mezi umělou inteligencí a antropomorfizovanými komunikačními partnery stírají. Uživatelé často cítí emocionální spojení s programy jako Replika, Romantic AI a Wysa, které jim pomáhají sdílet osobní myšlenky a pocity. Tato forma komunikace může mnoha lidem poskytnout podpůrnou funkci v každodenním životě.

Obavy o soukromí a citové vazby

Používání takových systémů však vyvolává značné obavy o soukromí. Uživatelé často sdílejí citlivé informace, které používají dialogové systémy k personalizaci interakce. Mnoho lidí ignoruje rizika spojená se sdílením jejich dat s třetími stranami. Podle článku na das-wissen.de Otázky týkající se transparentnosti, souhlasu a kontroly mají při nakládání s osobními údaji zásadní význam.

Obecné nařízení o ochraně osobních údajů (GDPR) upravuje nakládání s těmito údaji v EU a vyžaduje, aby poskytovatelé umělé inteligence poskytovali transparentní vysvětlení, jak jsou údaje využívány. V rozhodovacích procesech systémů umělé inteligence však často chybí transparentnost a sledovatelnost. Výzkum provedený v SENTIMENT by se měl také zaměřit na to, jak jsou uživatelé poškozeni při výkonu svých datových práv prostřednictvím citových vazeb k partnerům AI.

Právní rámec a interdisciplinární přístupy

Projekt SENTIMENT, který poběží do roku 2027 pod vedením PD Dr. Christiana Geminna, se proto zabývá právními požadavky a ochranou soukromí při používání takových technologií. Dalším aspektem je sebeurčení uživatelů s ohledem na jejich data. Mezi partnery projektu patří: Univerzita umění v Kasselu a Univerzita Duisburg-Essen. Spolupráce mezi těmito institucemi pomáhá integrovat různé pohledy na dané téma a reflektovat výzkumné přístupy.

Výzkumný projekt získává finanční prostředky ve výši 1,24 milionu eur v rámci směrnice o financování „platformy soukromí“ od Spolkového ministerstva školství a výzkumu (BMBF). Hybridní závěrečná prezentace je plánována na rok 2027 v rámci interdisciplinární výstavy, která podtrhuje aktuálnost a naléhavost tématu.