Intímna komunikácia: Umelí partneri ako noví dôverníci?

Intímna komunikácia: Umelí partneri ako noví dôverníci?

V súčasnosti, keď sa umelá inteligencia (AI) čoraz viac objavuje v mnohých oblastiach života, vyvoláva veľký záujem intímna komunikácia s takzvanými systémami dialógu v prirodzenom jazyku. Nový výskumný projekt s názvom SENTIMENT, ktorý prebieha v Univerzita v Kasseli bola spustená, skúma možnosti a výzvy týchto technológií, najmä v oblasti duševného zdravia.

Cieľom projektu je podporiť autentickú, ľudskú komunikáciu. Je čoraz jasnejšie, že hranice medzi AI a antropomorfizovanými komunikačnými partnermi sa stierajú. Používatelia často cítia emocionálne spojenie s programami ako Replika, Romantic AI a Wysa, ktoré im pomáhajú zdieľať osobné myšlienky a pocity. Táto forma komunikácie môže mnohým ľuďom poskytnúť podpornú funkciu v každodennom živote.

Obavy o súkromie a citové väzby

Používanie takýchto systémov však vyvoláva značné obavy o súkromie. Používatelia často zdieľajú citlivé informácie, ktoré používajú dialógové systémy na prispôsobenie interakcie. Mnoho ľudí ignoruje riziká spojené so zdieľaním ich údajov s tretími stranami. Podľa článku o das-wissen.de Otázky týkajúce sa transparentnosti, súhlasu a kontroly majú pri zaobchádzaní s osobnými údajmi kľúčový význam.

Všeobecné nariadenie o ochrane údajov (GDPR) upravuje nakladanie s týmito údajmi v EÚ a vyžaduje, aby poskytovatelia umelej inteligencie poskytli transparentné vysvetlenie, ako sa údaje používajú. V rozhodovacích procesoch systémov AI však často chýba transparentnosť a sledovateľnosť. Výskum vykonaný v SENTIMENT by sa mal zamerať aj na to, ako sú používatelia oslabení pri uplatňovaní svojich práv na údaje prostredníctvom emocionálnych väzieb s partnermi AI.

Právny rámec a interdisciplinárne prístupy

Projekt SENTIMENT, ktorý bude prebiehať do roku 2027 pod vedením PD Dr. Christiana Geminna, sa preto zaoberá zákonnými požiadavkami a ochranou súkromia pri používaní takýchto technológií. Ďalším aspektom je sebaurčenie používateľov s ohľadom na ich údaje. Partnermi projektu sú: Univerzita umenia v Kasseli a Univerzita Duisburg-Essen. Spolupráca medzi týmito inštitúciami pomáha integrovať rôzne pohľady na danú tému a odrážať výskumné prístupy.

Výskumný projekt dostáva finančné prostriedky vo výške 1,24 milióna eur v rámci usmernenia o financovaní „platformy na ochranu súkromia“ od Spolkového ministerstva školstva a výskumu (BMBF). Hybridná záverečná prezentácia je naplánovaná na rok 2027 v rámci interdisciplinárnej výstavy, čo podčiarkuje aktuálnosť a naliehavosť témy.