AI a dezinformáció ellen: Dr. Schmitt Vera harca az igazságért!

AI a dezinformáció ellen: Dr. Schmitt Vera harca az igazságért!

Egy olyan világban, ahol a dezinformáció egyre könnyebben terjed, az XplaiNLP kutatócsoport a TU Berlin döntő lépést jelent e kihívás leküzdésében. Dr. Schmitt Vera vezetése alatt a csoport küldetésévé tette, hogy erősítse a társadalom dezinformációkkal szembeni ellenálló képességét. Több mint 4 millió eurós, harmadik fél által finanszírozott kutatásának célja olyan eszközök kifejlesztése, amelyek segítenek az újságíróknak és a nyilvánosságnak jobban megérteni a dezinformációs narratívákat.

A csoport munkája két fő projektre összpontosít: a VeraXtract és a news-poligráfra. A VeraXtract projekt célja összetett dezinformációs narratívák elemzése, hogy ne csak hamis információkat azonosítson, hanem megfejtse a mögöttük lévő narratívákat is. Az AI által támogatott „narratív megfigyelő eszköznek” itt központi szerepet kell játszania. Ez a technológia érthető magyarázatokat ad az elemzésekhez, és így átláthatóságot kínál a felhasználók számára.

Aktuális projektek és jelentőségük

A második projekt, a news-poligráf kifejezetten újságíróknak szól, és célja, hogy hamis információkat találjon szövegekben, képekben, hang- és videótartalmakban. Az eszköz első demóverzióját áprilisban jelentették be. Tekintettel azokra a kihívásokra, hogy a tények ellenőrzése gyakran túl későn történik, és a dezinformáció a kollektív emlékezetben marad, az ilyen technológiák fejlesztése egyre sürgetőbbé válik.

Az XplaiNLP kutatócsoport jelenleg 24 tagot számlál, így Németország egyik vezető csoportja a dezinformáció-felderítés területén. A csoport céljait kiegészíti, hogy kritikusan meg kell vizsgálni a mesterséges intelligencia szerepét a dezinformáció elleni küzdelemben. Dr. Schmitt hangsúlyozza az AI relevanciáját: hídként működhet az emberek között, és segíthet áttörni a szűrőbuborékokat.

A dezinformáció kihívásai

A dezinformáció mindenütt jelen lévő terjedése veszélyezteti a demokratikus intézményekbe vetett bizalmat, és elmélyítheti a társadalmi megosztottságot. A mesterséges intelligencia használata ebben az összefüggésben a kockázatokra és a lehetőségekre egyaránt rávilágít. A félretájékoztatás azonosítása mellett a csapat stílusjegyeket is elemzi, hogy azonosítsa az érzelmi és feltöltött tartalmat. Ezek a megközelítések különösen fontosak a választások és konfliktusok előtti időszakban, amikor a dezinformációt egyre inkább stratégiailag használják fel.

A csoport olyan partnerekkel is együttműködik, mint a Deutsche Welle és a Német Mesterséges Intelligencia Kutatóközpont a mélyhamisítás-észlelési és tartalomelemzési módszerek továbbfejlesztésén. Az olyan kezdeményezések, mint a nemzetközi tényellenőrző aláírók és a helyi tényellenőrzők, szintén aktívan részt vesznek a félretájékoztatás elleni küzdelemben. A digitális szolgáltatásokról szóló törvény (DSA) szintén fontos szerepet játszhat a közösségi média platformjainak szabályozásában, amikor a tartalom moderálásáról van szó.

A csere fontos formái az olyan események, mint például az MI-vel végzett tényellenőrzésről szóló vita, amelyet 2024. december 10-re terveznek a TU Berlinben. Itt lesz szó a jelenlegi kihívásokról, a jogi keretfeltételekről és az emberi tények ellenőrzőinek szükségességéről annak érdekében, hogy javítsuk a mesterséges intelligencia társadalom általi használatát.

A kutatócsoport elképzelései 2030-ig terjednek, amikorra a mesterséges intelligencia valós időben képes lesz észlelni és kontextusba helyezni a dezinformációkat. Ennek célja az információba vetett bizalom helyreállítása és végső soron a társadalmi kohézió előmozdítása. A kihívások összetéveszthetetlenek, de az XplaiNLP kutatócsoport megközelítései új perspektívákat kínálnak a dezinformáció-áradat elleni küzdelemben.