Интимна комуникация: Изкуствените партньори като нови довереници?

Интимна комуникация: Изкуствените партньори като нови довереници?

В днешно време, когато изкуственият интелект (AI) присъства все повече и повече в много области на живота, интимната комуникация с така наречените системи за диалог на естествен език предизвиква голям интерес. Нов изследователски проект, наречен SENTIMENT, който се провежда в Университет на Касел стартира, разглежда възможностите и предизвикателствата на тези технологии, особено в областта на психичното здраве.

Проектът има за цел да насърчи автентичното, човешко общуване. Става все по-ясно, че границите между ИИ и антропоморфизираните комуникационни партньори се размиват. Потребителите често изпитват емоционална връзка с програми като Replika, Romantic AI и Wysa, които им помагат да споделят лични мисли и чувства. Тази форма на комуникация може да осигури поддържаща функция в ежедневието на много хора.

Загриженост за поверителността и емоционални привързаности

Използването на такива системи обаче поражда сериозни опасения за поверителността. Потребителите често споделят чувствителна информация, която се използва от системите за диалог за персонализиране на взаимодействието. Много хора пренебрегват рисковете, свързани със споделянето на техните данни с трети страни. Според статия на das-wissen.de Въпросите относно прозрачността, съгласието и контрола са от централно значение, когато става въпрос за обработка на лични данни.

Общият регламент за защита на данните (GDPR) регулира обработката на тези данни в ЕС и изисква от доставчиците на AI да предоставят прозрачно обяснение за това как се използват данните. Въпреки това, често има липса на прозрачност и проследимост в процесите на вземане на решения на AI системите. Изследването, проведено в SENTIMENT, трябва също така да има за цел как потребителите са нарушени при упражняването на правата си върху данните чрез емоционални връзки с партньори с изкуствен интелект.

Правна рамка и интердисциплинарни подходи

Проектът SENTIMENT, който ще продължи до 2027 г. под ръководството на PD д-р Кристиан Гемин, следователно се занимава със законовите изисквания и защитата на поверителността при използване на такива технологии. Друг аспект е самоопределянето на потребителите по отношение на техните данни. Партньори в проекта включват: Университет по изкуства Касел и на Университет Дуисбург-Есен. Сътрудничеството между тези институции помага за интегрирането на различни гледни точки по темата и отразяването на изследователски подходи.

Изследователският проект получава финансиране от 1,24 милиона евро като част от насоките за финансиране на „Платформата за поверителност“ от Федералното министерство на образованието и научните изследвания (BMBF). Хибридното финално представяне е планирано за 2027 г. в интердисциплинарна изложба, което подчертава актуалността и неотложността на темата.