Intīma komunikācija: mākslīgie partneri kā jaunas uzticības personas?

Intīma komunikācija: mākslīgie partneri kā jaunas uzticības personas?

Mūsdienās, kad mākslīgais intelekts (AI) arvien vairāk parādās daudzās dzīves jomās, intīma saziņa ar tā dēvētajām dabiskās valodas dialogu sistēmām rada lielu interesi. Jauns pētniecības projekts ar nosaukumu SENTIMENT, kas notiek plkst Kaseles Universitāte tika uzsākta, pēta šo tehnoloģiju iespējas un izaicinājumus, īpaši garīgās veselības jomā.

Projekta mērķis ir veicināt autentisku, cilvēcisku komunikāciju. Kļūst arvien skaidrāks, ka robežas starp AI un antropomorfizētiem komunikācijas partneriem kļūst neskaidras. Lietotāji bieži izjūt emocionālu saikni ar tādām programmām kā Replika, Romantic AI un Wysa, kas palīdz viņiem dalīties personīgās domās un jūtās. Šis saziņas veids daudziem cilvēkiem var nodrošināt atbalsta funkciju ikdienas dzīvē.

Bažas par privātumu un emocionāla pieķeršanās

Tomēr šādu sistēmu izmantošana rada nopietnas bažas par privātumu. Lietotāji bieži kopīgo sensitīvu informāciju, ko dialogu sistēmas izmanto, lai personalizētu mijiedarbību. Daudzi cilvēki ignorē riskus, kas saistīti ar datu kopīgošanu ar trešajām pusēm. Saskaņā ar rakstu par das-wissen.de Jautājumi par caurskatāmību, piekrišanu un kontroli ir ļoti svarīgi, kad runa ir par personas datu apstrādi.

Vispārīgā datu aizsardzības regula (GDPR) regulē šo datu apstrādi ES un pieprasa AI nodrošinātājiem sniegt pārskatāmu skaidrojumu par to, kā dati tiek izmantoti. Tomēr bieži vien AI sistēmu lēmumu pieņemšanas procesos trūkst caurskatāmības un izsekojamības. Pētījumā, kas veikts vietnē SENTIMENT, vajadzētu arī noskaidrot, kā lietotājiem tiek traucēta viņu datu tiesību izmantošana emocionālo saikņu dēļ ar AI partneriem.

Tiesiskais regulējums un starpdisciplināras pieejas

Tāpēc projekts SENTIMENT, kas darbosies līdz 2027. gadam PD Dr. Christian Geminn vadībā, ir saistīts ar juridiskajām prasībām un privātuma aizsardzību, izmantojot šādas tehnoloģijas. Vēl viens aspekts ir lietotāju pašnoteikšanās attiecībā uz saviem datiem. Projekta partneri ir: Kaseles Mākslas universitāte un Dīsburgas-Esenes Universitāte. Sadarbība starp šīm iestādēm palīdz integrēt dažādas perspektīvas par tēmu un atspoguļot pētniecības pieejas.

Pētījuma projekts saņem finansējumu 1,24 miljonu eiro apmērā kā daļu no “Privātuma platformas” finansēšanas vadlīnijām no Federālās Izglītības un pētniecības ministrijas (BMBF). Hibrīda gala prezentācija ir plānota 2027. gadā starpdisciplinārā izstādē, kas pasvītro tēmas aktualitāti un aktualitāti.