AI protiv dezinformacija: Borba dr. Vere Schmitt za istinu!

AI protiv dezinformacija: Borba dr. Vere Schmitt za istinu!

U svijetu u kojem se dezinformacije sve lakše šire, istraživačka grupa XplaiNLP pri TU Berlin predstavlja ključni korak u borbi protiv ovog izazova. Pod vodstvom dr. Prema Veri Schmitt, grupa je postavila za svoju misiju jačanje otpornosti društva na dezinformacije. S više od 4 milijuna eura financiranja trećih strana, njezino je istraživanje usmjereno na razvoj alata koji pomažu i novinarima i javnosti da bolje razumiju narative dezinformacija.

Rad grupe usmjeren je na dva glavna projekta: VeraXtract i news-polygraph. Projekt VeraXtract ima za cilj analizirati složene narative dezinformacija kako bi ne samo identificirao lažne informacije, već i dešifrirao narative iza njih. “Alat za praćenje pripovijedanja” koji podržava umjetna inteligencija trebao bi ovdje igrati središnju ulogu. Ova tehnologija pruža razumljiva objašnjenja za svoje analize i tako nudi transparentnost korisnicima.

Aktualni projekti i njihov značaj

Drugi projekt, news-polygraph, namijenjen je upravo novinarima, a namijenjen je pronalaženju lažnih informacija u tekstovima, slikama, audio i video sadržajima. Prva demo verzija alata najavljena je za travanj. S obzirom na izazove da se provjere činjenica često događaju prekasno, a dezinformacije ostaju u kolektivnom sjećanju, razvoj takvih tehnologija postaje sve hitniji.

Istraživačka skupina XplaiNLP trenutno ima 24 člana tima, što je čini jednom od vodećih skupina u području otkrivanja dezinformacija u Njemačkoj. Nadopuna ciljevima grupe je potreba za kritičkim ispitivanjem uloge umjetne inteligencije u borbi protiv dezinformacija. Dr. Schmitt naglašava važnost umjetne inteligencije: ona može djelovati kao most između ljudi i pomoći u probijanju mjehurića filtera.

Izazovi dezinformacija

Sveprisutno širenje dezinformacija prijeti povjerenju u demokratske institucije i može produbiti društvene podjele. Korištenje umjetne inteligencije u ovom kontekstu naglašava i rizike i prilike. Osim identificiranja dezinformacija, tim također analizira stilske karakteristike kako bi identificirao emocionalni i nabijeni sadržaj. Ovi su pristupi osobito relevantni u razdoblju koje prethodi izborima i sukobima, kada se dezinformacije sve više strateški koriste.

Grupa također surađuje s partnerima kao što su Deutsche Welle i Njemački istraživački centar za umjetnu inteligenciju na daljnjem razvoju metoda za otkrivanje dubinskih krivotvorina i analizu sadržaja. Inicijative kao što su međunarodne potpisnice za provjeru činjenica i lokalne osobe koje provjeravaju činjenice također su aktivno uključene u borbu protiv dezinformacija. Zakon o digitalnim uslugama (DSA) također bi mogao igrati važnu ulogu u reguliranju platformi društvenih medija kada je u pitanju moderiranje sadržaja.

Važan format za razmjenu su događaji poput rasprave o provjerama činjenica s umjetnom inteligencijom, koja je planirana za 10. prosinca 2024. na TU Berlin. Ovdje će se raspravljati o trenutačnim izazovima, uvjetima pravnog okvira i potrebi za ljudskim provjerivačima činjenica kako bi se poboljšala društvena upotreba umjetne inteligencije.

Vizija istraživačke skupine proteže se do 2030. godine, kada bi umjetna inteligencija trebala moći otkriti i kontekstualizirati dezinformacije u stvarnom vremenu. Time se želi vratiti povjerenje u informacije i u konačnici promicati društvenu koheziju. Izazovi su nepogrešivi, ali pristupi istraživačke skupine XplaiNLP nude nove perspektive u borbi protiv poplave dezinformacija.