AI и формиране на мнение: Опасността от манипулация в демокрацията!

AI и формиране на мнение: Опасността от манипулация в демокрацията!

На 22 май 2025 г. Техническият университет в Берлин обяви значителни стъпки в изследването на социалната динамика на формирането на мнение. Под ръководството на Sebastian Pokutta, вицепрезидент на Zuse Institute Berlin и говорител на MATH+ Cluster of Excellence, следващата фаза на финансиране ще се фокусира върху анализа на формирането на мнение чрез социалните медии. Целта е да се укрепят и защитят демократичните ценности, като същевременно се подчертаят изкуственият интелект (AI) и методите за оптимизация като ключови изследователски области. Покута и неговият екип виждат необходимост да разберат по-добре как се разпространява информацията и влиянието, което алгоритмите имат върху общественото мнение.

През последните години промяната и разпространението на мнения чрез социалните медии се увеличи значително. Според Федералната агенция за гражданско образование достъпът до надеждна информация се счита за ключов за функционирането на демокрацията. Влиянието на социалните медии се промени значително, което създаде социална уязвимост. Германското население показва намаляващо доверие в медиите, спадайки от 48% през 2023 г. на 47% през 2024 г. Доверието в правителството също е намаляло от 47% на 42%.

Ролята на изкуствения интелект

Изкуственият интелект играе все по-централна роля в политическата комуникация. Последните развития, особено след пускането на ChatGPT в края на 2022 г., възобновиха дискусията за манипулирането и дезинформацията на AI. Способността на AI да генерира автоматизирано съдържание и конкретно да го персонализира се определя като основен риск. Политическите актьори специално използват алгоритми, за да увеличат видимостта на определени разкази. Това може да се види например в манипулативните стратегии, които AfD също използва, за да разпространява своите послания.

В планираната фаза на финансиране на MATH+ Андреа Валтер, друг говорител на проекта, придава голямо значение на устойчивостта. Трябва да се разработят алгоритми за повишаване на ефективността в областта на мобилността и енергията, напр. чрез оптимизиране на транспортните мрежи за намаляване на консумацията на енергия от AI при учене.

Демократични предизвикателства и препоръки за действие

Разпространението на дезинформация представлява значително предизвикателство за демократичните процеси. Дълбоките фалшификати и ненадеждното генерирано от AI съдържание застрашават демократичния дискурс и биха могли да подкопаят условията за просветена общественост. Социалните медии, базирани на сложни алгоритми, увеличават ангажираността на потребителите, което води до фрагментация на информационното пространство и застрашава социалното сближаване.

За да се противодейства на това развитие, са необходими конкретни мерки. Препоръките за действие включват въвеждане на кодекс за поведение на политическите партии, кампании за обществено образование и насърчаване на подход с участието на множество заинтересовани страни. Осигуряването на прозрачност чрез алгоритми и достъп до потребителски данни са от съществено значение. Счита се за необходимо тясно сътрудничество между оператори на платформи, политици и организации на гражданското общество, за да се идентифицират и противодействат на опитите за манипулация.

Като цяло това показва, че предизвикателствата, породени от ИИ, и неговите широкообхватни последици за демокрацията не могат да бъдат пренебрегнати. Развитието на политическата комуникация изисква активно участие и регулиране, за да се гарантира, че демократичните ценности се запазват дори в дигитализиран и алгоритмично контролиран свят.