AI i formiranje mišljenja: Opasnost od manipulacije u demokraciji!

AI i formiranje mišljenja: Opasnost od manipulacije u demokraciji!

Dana 22. svibnja 2025. Tehničko sveučilište u Berlinu najavilo je značajne korake u istraživanju društvene dinamike formiranja mišljenja. Pod vodstvom Sebastiana Pokutte, potpredsjednika Zuse instituta Berlin i glasnogovornika MATH+ klastera izvrsnosti, sljedeća faza financiranja usredotočit će se na analizu formiranja mišljenja putem društvenih medija. Cilj je ojačati i zaštititi demokratske vrijednosti, ističući umjetnu inteligenciju (AI) i metode optimizacije kao ključna područja istraživanja. Pokutta i njegov tim vide potrebu za boljim razumijevanjem načina na koji se informacije šire i utjecaja koji algoritmi imaju na javno mnijenje.

Posljednjih godina značajno se povećala promjena i širenje mišljenja putem društvenih medija. Prema Saveznoj agenciji za građansko obrazovanje, pristup pouzdanim informacijama smatra se ključnim za funkcioniranje demokracije. Utjecaj društvenih medija značajno se promijenio, što je stvorilo društvenu ranjivost. Njemačko stanovništvo pokazuje sve manje povjerenja u medije, palo je s 48% u 2023. na 47% u 2024. Povjerenje u vladu također je smanjeno, s 47% na 42%.

Uloga umjetne inteligencije

Umjetna inteligencija igra sve važniju ulogu u političkoj komunikaciji. Nedavni razvoj događaja, osobito od pokretanja ChatGPT-a krajem 2022., ponovno je pokrenuo raspravu o manipulaciji umjetnom inteligencijom i dezinformacijama. Sposobnost umjetne inteligencije da generira automatizirani sadržaj i posebno ga personalizira identificira se kao veliki rizik. Politički akteri posebno koriste algoritme kako bi povećali vidljivost određenih narativa. Vidljivo je to, primjerice, u manipulativnim strategijama kojima se AfD također služi za širenje svojih poruka.

U planiranoj fazi financiranja MATH+, Andrea Walther, još jedan glasnogovornik projekta, pridaje veliku važnost održivosti. Treba razviti algoritme za povećanje učinkovitosti u područjima mobilnosti i energije, npr. optimizacijom transportnih mreža kako bi se smanjila potrošnja energije umjetne inteligencije tijekom učenja.

Demokratski izazovi i preporuke za djelovanje

Širenje dezinformacija predstavlja značajan izazov za demokratske procese. Duboke krivotvorine i nepouzdan sadržaj generiran umjetnom inteligencijom prijete demokratskom diskursu i mogli bi potkopati uvjete za prosvijećenu javnost. Društveni mediji temeljeni na složenim algoritmima maksimiziraju angažman korisnika, što dovodi do fragmentacije informacijskog prostora i ugrožavanja društvene kohezije.

Kako bi se spriječio ovakav razvoj situacije, potrebne su konkretne mjere. Preporuke za djelovanje uključuju uvođenje kodeksa ponašanja za političke stranke, javne obrazovne kampanje i promicanje pristupa s više dionika. Osiguravanje transparentnosti putem algoritama i pristup korisničkim podacima su ključni. Bliska suradnja između operatera platforme, političara i organizacija civilnog društva smatra se neophodnom kako bi se identificirali i suprotstavili pokušajima manipulacije.

Općenito, pokazuje da se izazovi koje postavlja umjetna inteligencija i njezine dalekosežne implikacije na demokraciju ne mogu zanemariti. Razvoj političkog komuniciranja zahtijeva aktivno sudjelovanje i regulaciju kako bi se osiguralo očuvanje demokratskih vrijednosti čak iu digitaliziranom i algoritamski kontroliranom svijetu.