Umělá inteligence proti dezinformacím: Boj Dr. Very Schmittové za pravdu!

Umělá inteligence proti dezinformacím: Boj Dr. Very Schmittové za pravdu!

Ve světě, kde se dezinformace šíří stále snadněji, výzkumná skupina XplaiNLP at the TU Berlín představuje zásadní krok v boji proti této výzvě. Pod vedením Dr. Podle Very Schmitt si skupina dala za své poslání posílit odolnost společnosti vůči dezinformacím. S více než 4 miliony eur na financování od třetích stran se její výzkum zaměřuje na vývoj nástrojů, které pomáhají novinářům i veřejnosti lépe porozumět dezinformačním narativům.

Práce skupiny se zaměřuje na dva hlavní projekty: VeraXtract a news-polygraph. Projekt VeraXtract si klade za cíl analyzovat komplexní dezinformační narativy, aby nejen identifikoval nepravdivé informace, ale také dešifroval narativy, které se za nimi skrývají. Ústřední roli by zde měl hrát „narativní monitorovací nástroj“ podporovaný umělou inteligencí. Tato technologie poskytuje srozumitelná vysvětlení svých analýz a nabízí tak uživatelům transparentnost.

Aktuální projekty a jejich význam

Druhý projekt, news-polygraph, je zaměřen speciálně na novináře a je navržen tak, aby našel nepravdivé informace v textech, obrázcích, audio a video obsahu. První demo verze nástroje je oznámena na duben. Vzhledem k problémům, že ověřování faktů často probíhá příliš pozdě a dezinformace zůstávají v kolektivní paměti, je vývoj takových technologií stále naléhavější.

Výzkumná skupina XplaiNLP má v současnosti 24 členů týmu, což z ní dělá jednu z předních skupin v oblasti detekce dezinformací v Německu. Doplněním cílů skupiny je potřeba kriticky prozkoumat roli AI v boji proti dezinformacím. Dr. Schmitt zdůrazňuje význam AI: Může fungovat jako most mezi lidmi a pomoci prorazit filtrační bubliny.

Výzvy dezinformací

Všudypřítomné šíření dezinformací ohrožuje důvěru v demokratické instituce a může prohlubovat sociální rozdíly. Použití umělé inteligence v tomto kontextu zdůrazňuje jak rizika, tak příležitosti. Kromě identifikace dezinformací tým také analyzuje stylistické charakteristiky, aby identifikoval emocionální a nabitý obsah. Tyto přístupy jsou relevantní zejména v období před volbami a konflikty, kdy jsou dezinformace stále více strategicky využívány.

Skupina také spolupracuje s partnery, jako je Deutsche Welle a Německé výzkumné centrum pro umělou inteligenci, na dalším vývoji metod detekce deepfake a analýzy obsahu. Do boje proti dezinformacím se aktivně zapojují také iniciativy, jako jsou mezinárodní signatáři pro kontrolu faktů a místní kontroloři faktů. Zákon o digitálních službách (DSA) by také mohl hrát důležitou roli při regulaci platforem sociálních médií, pokud jde o moderování obsahu.

Důležitým formátem pro výměnu jsou akce, jako je diskuse o ověřování faktů s AI, která je plánována na 10. prosince 2024 na TU Berlín. Budou zde diskutovány aktuální výzvy, právní rámcové podmínky a potřeba ověřovatelů lidských faktů, aby se zlepšilo využívání AI společností.

Vize výzkumné skupiny sahá až do roku 2030, kdy by umělá inteligence měla být schopna detekovat a kontextualizovat dezinformace v reálném čase. To má obnovit důvěru v informace a v konečném důsledku podpořit sociální soudržnost. Výzvy jsou nezaměnitelné, ale přístupy výzkumné skupiny XplaiNLP nabízejí nové perspektivy v boji proti záplavě dezinformací.