Umelá inteligencia proti dezinformáciám: Boj doktorky Very Schmittovej za pravdu!

Umelá inteligencia proti dezinformáciám: Boj doktorky Very Schmittovej za pravdu!

Vo svete, kde sa dezinformácie šíria čoraz ľahšie, výskumná skupina XplaiNLP pri TU Berlín predstavuje zásadný krok v boji proti tejto výzve. Pod vedením Dr. Podľa Very Schmitt si skupina dala za svoje poslanie posilniť odolnosť spoločnosti voči dezinformáciám. S viac ako 4 miliónmi eur vo financovaní od tretích strán je jej výskum zameraný na vývoj nástrojov, ktoré pomôžu novinárom aj verejnosti lepšie pochopiť dezinformačné príbehy.

Práca skupiny sa zameriava na dva hlavné projekty: VeraXtract a news-polygraph. Projekt VeraXtract si kladie za cieľ analyzovať zložité dezinformačné príbehy s cieľom nielen identifikovať falošné informácie, ale aj dešifrovať príbehy, ktoré sa za nimi skrývajú. Ústrednú úlohu by tu mal zohrávať „naratívny monitorovací nástroj“ podporovaný AI. Táto technológia poskytuje zrozumiteľné vysvetlenia pre svoje analýzy a ponúka tak používateľom transparentnosť.

Aktuálne projekty a ich význam

Druhý projekt, news-polygraph, je zameraný špeciálne na novinárov a je určený na vyhľadávanie nepravdivých informácií v textoch, obrázkoch, audio a video obsahu. Prvá demo verzia nástroja je ohlásená na apríl. Vzhľadom na problémy, že overovanie faktov sa často vyskytuje príliš neskoro a dezinformácie zostávajú v kolektívnej pamäti, je vývoj takýchto technológií čoraz naliehavejší.

Výskumná skupina XplaiNLP má v súčasnosti 24 členov tímu, čo z nej robí jednu z popredných skupín v oblasti odhaľovania dezinformácií v Nemecku. Doplnkom cieľov skupiny je potreba kriticky preskúmať úlohu AI v boji proti dezinformáciám. Dr. Schmitt zdôrazňuje význam AI: Môže fungovať ako most medzi ľuďmi a pomôcť prelomiť filtračné bubliny.

Výzvy dezinformácií

Všadeprítomné šírenie dezinformácií ohrozuje dôveru v demokratické inštitúcie a môže prehĺbiť sociálne rozdiely. Použitie AI v tomto kontexte poukazuje na riziká aj príležitosti. Okrem identifikácie dezinformácií tím analyzuje aj štylistické charakteristiky, aby identifikoval emocionálny a nabitý obsah. Tieto prístupy sú obzvlášť aktuálne v období pred voľbami a konfliktmi, keď sa dezinformácie čoraz viac strategicky využívajú.

Skupina tiež spolupracuje s partnermi, ako je Deutsche Welle a Nemecké výskumné centrum pre umelú inteligenciu na ďalšom vývoji metód detekcie hlbokých falošných správ a analýzy obsahu. Do boja proti dezinformáciám sa aktívne zapájajú aj iniciatívy, ako sú medzinárodní signatári na kontrolu faktov a miestni overovatelia faktov. Zákon o digitálnych službách (DSA) by tiež mohol zohrávať dôležitú úlohu pri regulácii platforiem sociálnych médií, pokiaľ ide o moderovanie obsahu.

Dôležitým formátom výmeny sú podujatia, ako je diskusia o overovaní faktov s AI, ktorá je naplánovaná na 10. decembra 2024 na TU Berlín. Diskutuje sa tu o súčasných výzvach, podmienkach právneho rámca a potrebe kontrolórov ľudských faktov s cieľom zlepšiť používanie AI v spoločnosti.

Vízia výskumnej skupiny siaha do roku 2030, kedy by AI mala byť schopná odhaliť a uviesť do kontextu dezinformácie v reálnom čase. Cieľom je obnoviť dôveru v informácie a v konečnom dôsledku podporiť sociálnu súdržnosť. Výzvy sú nezameniteľné, no prístupy výskumnej skupiny XplaiNLP ponúkajú nové perspektívy v boji proti záplave dezinformácií.