AI ir nuomonės formavimas: manipuliavimo pavojus demokratijoje!

AI ir nuomonės formavimas: manipuliavimo pavojus demokratijoje!

2025 m. gegužės 22 d. Berlyno technikos universitetas paskelbė apie reikšmingus žingsnius tiriant nuomonės formavimo socialinę dinamiką. Vadovaujant Sebastianui Pokuttai, Berlyno Zuse instituto viceprezidentui ir MATH+ kompetencijos klasterio atstovui, kitame finansavimo etape pagrindinis dėmesys bus skiriamas nuomonės formavimo per socialinę žiniasklaidą analizei. Siekiama stiprinti ir saugoti demokratines vertybes, išskiriant dirbtinį intelektą (AI) ir optimizavimo metodus kaip pagrindines tyrimų sritis. Pokutta ir jo komanda mato poreikį geriau suprasti, kaip informacija skleidžiama ir kokią įtaką algoritmai daro viešajai nuomonei.

Pastaraisiais metais nuomonių kaita ir sklaida socialiniuose tinkluose labai išaugo. Pasak Federalinės pilietinio ugdymo agentūros, prieiga prie patikimos informacijos yra laikoma itin svarbia demokratijos funkcionavimui. Socialinių tinklų įtaka labai pasikeitė, todėl atsirado socialinių pažeidžiamumų. Vokietijos gyventojų pasitikėjimas žiniasklaida mažėja – nuo ​​48 % 2023 m. iki 47 % 2024 m. Taip pat sumažėjo pasitikėjimas vyriausybe – nuo ​​47 % iki 42 %.

Dirbtinio intelekto vaidmuo

Dirbtinis intelektas vaidina vis svarbesnį vaidmenį politinėje komunikacijoje. Naujausi įvykiai, ypač po ChatGPT paleidimo 2022 m. pabaigoje, vėl įžiebė diskusiją apie manipuliavimą dirbtiniu intelektu ir dezinformaciją. AI gebėjimas generuoti automatizuotą turinį ir jį specialiai pritaikyti asmeniniams poreikiams yra nustatyta kaip didelė rizika. Politiniai veikėjai specialiai naudoja algoritmus, kad padidintų tam tikrų naratyvų matomumą. Tai matyti, pavyzdžiui, iš manipuliavimo strategijų, kurias AfD taip pat naudoja savo žinioms skleisti.

Planuojamame MATH+ finansavimo etape Andrea Walther, kita projekto atstovė, teikia didelę reikšmę tvarumui. Reikėtų sukurti efektyvumo didinimo algoritmus mobilumo ir energetikos srityse, pvz. optimizuojant transporto tinklus, siekiant sumažinti AI energijos suvartojimą mokantis.

Demokratiniai iššūkiai ir rekomendacijos veikti

Dezinformacijos plitimas kelia didelį iššūkį demokratiniams procesams. Gilūs klastotės ir nepatikimas dirbtinio intelekto sukurtas turinys kelia grėsmę demokratiniam diskursui ir gali pakenkti šviesai visuomenei. Sudėtingais algoritmais pagrįsta socialinė žiniasklaida maksimaliai padidina vartotojų įsitraukimą, todėl susiskaido informacinė erdvė ir kyla pavojus socialinei sanglaudai.

Norint užkirsti kelią šiam vystymuisi, reikia imtis konkrečių priemonių. Rekomendacijos dėl veiksmų apima politinių partijų elgesio kodekso įvedimą, visuomenės švietimo kampanijas ir daugelio suinteresuotųjų šalių požiūrio skatinimą. Labai svarbu užtikrinti skaidrumą naudojant algoritmus ir prieigą prie vartotojo duomenų. Manoma, kad platformos operatorių, politikų ir pilietinės visuomenės organizacijų glaudus bendradarbiavimas yra būtinas siekiant nustatyti ir atremti bandymus manipuliuoti.

Apskritai tai rodo, kad negalima ignoruoti AI keliamų iššūkių ir jo plataus masto pasekmių demokratijai. Politinės komunikacijos raida reikalauja aktyvaus dalyvavimo ir reguliavimo, siekiant užtikrinti, kad demokratinės vertybės būtų išsaugotos net skaitmenizuotame ir algoritmiškai valdomame pasaulyje.