AI przeciwko dezinformacji: walka dr Very Schmitt o prawdę!

AI przeciwko dezinformacji: walka dr Very Schmitt o prawdę!

W świecie, w którym dezinformacja rozprzestrzenia się coraz łatwiej, grupa badawcza XplaiNLP przy ul TU Berlin stanowi kluczowy krok w walce z tym wyzwaniem. Pod przewodnictwem dr. Według Very Schmitt grupa postawiła sobie za cel wzmocnienie odporności społeczeństwa na dezinformację. Jej badania mają na celu opracowanie narzędzi, które pomogą zarówno dziennikarzom, jak i społeczeństwu lepiej zrozumieć narracje dezinformacyjne, dysponując kwotą ponad 4 milionów euro dofinansowaną przez strony trzecie.

Praca grupy skupia się na dwóch głównych projektach: VeraXtract i news-lygraph. Celem projektu VeraXtract jest analiza złożonych narracji dezinformacyjnych w celu nie tylko identyfikacji fałszywych informacji, ale także rozszyfrowania narracji, która za nimi stoi. Wspierane przez sztuczną inteligencję „narzędzie do monitorowania narracji” powinno odgrywać tutaj kluczową rolę. Technologia ta zapewnia zrozumiałe wyjaśnienia przeprowadzanych analiz, a tym samym zapewnia użytkownikom przejrzystość.

Aktualne projekty i ich znaczenie

Drugi projekt, news-lygraph, jest skierowany w szczególności do dziennikarzy i ma na celu wyszukiwanie fałszywych informacji w tekstach, obrazach, treściach audio i wideo. Pierwsza wersja demonstracyjna narzędzia zapowiadana jest na kwiecień. Biorąc pod uwagę wyzwania związane z tym, że weryfikacja faktów często następuje zbyt późno, a dezinformacja pozostaje w pamięci zbiorowej, rozwój takich technologii staje się coraz pilniejszy.

Grupa badawcza XplaiNLP liczy obecnie 24 członków zespołu, co czyni ją jedną z wiodących grup w obszarze wykrywania dezinformacji w Niemczech. Uzupełnieniem celów grupy jest konieczność krytycznego zbadania roli AI w walce z dezinformacją. Dr Schmitt podkreśla znaczenie sztucznej inteligencji: może ona działać jako pomost między ludźmi i pomagać w przebijaniu się baniek filtrujących.

Wyzwania dezinformacji

Wszechobecna dezinformacja zagraża zaufaniu do instytucji demokratycznych i może pogłębiać podziały społeczne. Zastosowanie sztucznej inteligencji w tym kontekście uwypukla zarówno ryzyko, jak i możliwości. Oprócz identyfikowania dezinformacji zespół analizuje również cechy stylistyczne, aby zidentyfikować treści emocjonalne i naładowane. Podejścia te są szczególnie istotne w okresie poprzedzającym wybory i konflikty, kiedy dezinformacja jest coraz częściej wykorzystywana strategicznie.

Grupa współpracuje również z partnerami takimi jak Deutsche Welle i Niemieckie Centrum Badań nad Sztuczną Inteligencją w celu dalszego rozwijania metod wykrywania deepfake i analizy treści. W zwalczaniu dezinformacji aktywnie angażują się także takie inicjatywy, jak Międzynarodowi Sygnatariusze weryfikujący fakty i lokalne podmioty weryfikujące fakty. Ustawa o usługach cyfrowych (DSA) może również odegrać ważną rolę w regulowaniu platform mediów społecznościowych w zakresie moderowania treści.

Ważnym formatem wymiany są wydarzenia takie jak dyskusja na temat weryfikacji faktów z AI, która zaplanowana jest na 10 grudnia 2024 r. na TU Berlin. Omówione zostaną tutaj aktualne wyzwania, warunki ram prawnych i potrzeba weryfikacji faktów przez człowieka, aby poprawić wykorzystanie sztucznej inteligencji przez społeczeństwo.

Wizja grupy badawczej sięga roku 2030, kiedy sztuczna inteligencja powinna być w stanie wykrywać dezinformację i umieszczać ją w odpowiednim kontekście w czasie rzeczywistym. Ma to na celu przywrócenie zaufania do informacji i docelowo wspieranie spójności społecznej. Wyzwania są niewątpliwe, ale podejście grupy badawczej XplaiNLP oferuje nowe perspektywy w walce z zalewem dezinformacji.