AI prieš dezinformaciją: dr. Veros Schmitt kova už tiesą!

AI prieš dezinformaciją: dr. Veros Schmitt kova už tiesą!

Pasaulyje, kuriame dezinformacija plinta vis lengviau, mokslininkų grupė XplaiNLP at the TU Berlynas yra labai svarbus žingsnis kovojant su šiuo iššūkiu. Vadovaujant dr. Veros Schmitt, grupė išsikėlė savo misiją – stiprinti visuomenės atsparumą dezinformacijai. Trečiųjų šalių finansavimu daugiau nei 4 milijonai eurų, jos tyrimais siekiama sukurti įrankius, kurie padėtų tiek žurnalistams, tiek visuomenei geriau suprasti dezinformacijos pasakojimus.

Grupės darbas sutelktas į du pagrindinius projektus: VeraXtract ir naujienų poligrafą. „VeraXtract“ projektu siekiama išanalizuoti sudėtingus dezinformacijos pasakojimus, kad būtų galima ne tik nustatyti klaidingą informaciją, bet ir iššifruoti už jų esančius pasakojimus. AI palaikoma „naratyvinio stebėjimo priemonė“ turėtų atlikti pagrindinį vaidmenį. Ši technologija pateikia suprantamus analizės paaiškinimus ir taip suteikia vartotojams skaidrumo.

Dabartiniai projektai ir jų reikšmė

Antrasis projektas – naujienos-poligrafas – skirtas būtent žurnalistams ir skirtas melagingai informacijai rasti tekstuose, vaizduose, garso ir vaizdo turinyje. Pirmoji demonstracinė įrankio versija paskelbta balandžio mėn. Atsižvelgiant į iššūkius, kad faktų patikrinimai dažnai įvyksta per vėlai, o dezinformacija lieka kolektyvinėje atmintyje, tokių technologijų plėtra tampa vis skubesnė.

XplaiNLP tyrimų grupę šiuo metu sudaro 24 komandos nariai, todėl ji yra viena iš pirmaujančių grupių dezinformacijos aptikimo srityje Vokietijoje. Grupės tikslus papildo poreikis kritiškai išnagrinėti AI vaidmenį kovojant su dezinformacija. Dr. Schmittas pabrėžia AI svarbą: jis gali veikti kaip tiltas tarp žmonių ir padėti prasiskverbti pro filtrų burbulus.

Dezinformacijos iššūkiai

Visur plintanti dezinformacija kelia grėsmę pasitikėjimui demokratinėmis institucijomis ir gali pagilinti socialinį susiskaldymą. AI naudojimas šiame kontekste išryškina ir riziką, ir galimybes. Be dezinformacijos nustatymo, komanda taip pat analizuoja stilistines savybes, kad nustatytų emocinį ir įkrautą turinį. Šie metodai ypač aktualūs laikotarpiu iki rinkimų ir konfliktų, kai dezinformacija vis dažniau naudojama strategiškai.

Grupė taip pat bendradarbiauja su tokiais partneriais kaip „Deutsche Welle“ ir Vokietijos dirbtinio intelekto tyrimų centras, siekdama toliau plėtoti giliųjų klastotės aptikimo ir turinio analizės metodus. Tokios iniciatyvos kaip Tarptautinės faktų tikrinimo signatarai ir vietos faktų tikrintojai taip pat aktyviai dalyvauja kovojant su dezinformacija. Skaitmeninių paslaugų įstatymas (DSA) taip pat galėtų atlikti svarbų vaidmenį reguliuojant socialinės žiniasklaidos platformas, kai kalbama apie turinio moderavimą.

Svarbus mainų formatas yra tokie renginiai kaip diskusija apie faktų patikrinimą su AI, kuri planuojama 2024 m. gruodžio 10 d. Berlyno TU. Čia bus aptariami dabartiniai iššūkiai, teisinės sistemos sąlygos ir žmogiškųjų faktų tikrintojų poreikis, siekiant pagerinti AI naudojimą visuomenėje.

Mokslininkų grupės vizija tęsiasi iki 2030 m., kai AI turėtų sugebėti aptikti ir kontekstualizuoti dezinformaciją realiuoju laiku. Taip siekiama atkurti pasitikėjimą informacija ir galiausiai skatinti socialinę sanglaudą. Iššūkiai yra neabejotini, tačiau XplaiNLP tyrimų grupės metodai siūlo naujas perspektyvas kovojant su dezinformacijos potvyniu.