Tekoäly disinformaatiota vastaan: tohtori Vera Schmittin taistelu totuuden puolesta!

Tekoäly disinformaatiota vastaan: tohtori Vera Schmittin taistelu totuuden puolesta!

Maailmassa, jossa disinformaatio leviää yhä helpommin, tutkijaryhmä XplaiNLP at the Berliinin TU on ratkaiseva askel tämän haasteen torjunnassa. Tohtori Vera Schmittin mukaan ryhmä on asettanut missionsa vahvistaa yhteiskunnan sietokykyä disinformaatiota vastaan. Yli 4 miljoonan euron kolmannen osapuolen rahoituksella hänen tutkimuksensa tavoitteena on kehittää työkaluja, jotka auttavat toimittajia ja yleisöä ymmärtämään disinformaationarratiiveja paremmin.

Ryhmän työ keskittyy kahteen pääprojektiin: VeraXtractiin ja news-polygraphiin. VeraXtract-projekti pyrkii analysoimaan monimutkaisia ​​disinformaation kertomuksia, jotta voidaan paitsi tunnistaa väärää tietoa, myös tulkita niiden takana olevat narratiivit. Tekoälyn tukeman "kerran seurantatyökalun" pitäisi olla tässä keskeisessä roolissa. Tämä tekniikka tarjoaa ymmärrettäviä selityksiä analyyseilleen ja tarjoaa siten läpinäkyvyyttä käyttäjille.

Nykyiset hankkeet ja niiden merkitys

Toinen hanke, News-polygraph, on suunnattu erityisesti toimittajille ja sen tarkoituksena on löytää väärää tietoa teksteistä, kuvista, ääni- ja videosisällöstä. Työkalun ensimmäinen demoversio julkistetaan huhtikuussa. Ottaen huomioon haasteet, että tosiasioiden tarkistaminen tapahtuu usein liian myöhään ja disinformaatio jää kollektiiviseen muistiin, tällaisten teknologioiden kehittäminen on yhä kiireellisempi.

XplaiNLP-tutkimusryhmässä on tällä hetkellä 24 tiimin jäsentä, mikä tekee siitä yhden disinformaation havaitsemisen johtavista ryhmistä Saksassa. Ryhmän tavoitteita täydentää tarve tarkastella kriittisesti tekoälyn roolia disinformaation torjunnassa. Dr. Schmitt korostaa tekoälyn merkitystä: Se voi toimia siltana ihmisten välillä ja auttaa murtamaan suodatinkuplia.

Disinformaation haasteet

Kaikkialla leviävä disinformaatio uhkaa luottamusta demokraattisiin instituutioihin ja voi syventää yhteiskunnan jakautumista. Tekoälyn käyttö tässä yhteydessä korostaa sekä riskejä että mahdollisuuksia. Väärän tiedon tunnistamisen lisäksi tiimi analysoi myös tyyliominaisuuksia tunnistaakseen emotionaalisen ja ladatun sisällön. Nämä lähestymistavat ovat erityisen tärkeitä vaaleja ja konflikteja edeltävänä aikana, jolloin disinformaatiota käytetään yhä enemmän strategisesti.

Ryhmä työskentelee myös kumppaneiden, kuten Deutsche Wellen ja Saksan tekoälyn tutkimuskeskuksen kanssa kehittääkseen edelleen syvän väärennösten havaitsemis- ja sisällönanalyysimenetelmiä. Aloitteet, kuten International Fact-Checking Signatures ja paikalliset faktantarkistajat, ovat myös aktiivisesti mukana torjumassa väärää tietoa. Digitaalisten palveluiden lailla (DSA) voisi myös olla tärkeä rooli sosiaalisen median alustojen säätelyssä sisällön moderoinnin osalta.

Tärkeä vaihtomuoto ovat tapahtumat, kuten keskustelu faktantarkistuksista tekoälyn kanssa, joka on suunniteltu 10.12.2024 TU Berliniin. Täällä keskustellaan ajankohtaisista haasteista, oikeudellisista puitteista ja inhimillisten faktojen tarkistajien tarpeesta, jotta tekoälyn käyttöä yhteiskunnassa voidaan parantaa.

Tutkimusryhmän visio ulottuu vuoteen 2030, jolloin tekoälyn pitäisi pystyä havaitsemaan ja kontekstualisoimaan disinformaatiota reaaliajassa. Tällä pyritään palauttamaan luottamus tietoon ja viime kädessä edistämään sosiaalista yhteenkuuluvuutta. Haasteet ovat kiistattomat, mutta XplaiNLP-tutkimusryhmän lähestymistavat tarjoavat uusia näkökulmia taistelussa disinformaatiotulvaa vastaan.