AI împotriva dezinformării: lupta Dr. Vera Schmitt pentru adevăr!

AI împotriva dezinformării: lupta Dr. Vera Schmitt pentru adevăr!

Într-o lume în care dezinformarea se răspândește din ce în ce mai ușor, grupul de cercetare XplaiNLP de la TU Berlin reprezintă un pas crucial în combaterea acestei provocări. Sub conducerea Dr. Potrivit Vera Schmitt, grupul și-a făcut misiunea de a consolida rezistența societății la dezinformare. Cu peste 4 milioane de euro în finanțare de la terți, cercetarea ei vizează dezvoltarea unor instrumente care îi ajută atât pe jurnaliști, cât și pe public să înțeleagă mai bine narațiunile de dezinformare.

Munca grupului se concentrează pe două proiecte principale: VeraXtract și news-polygraph. Proiectul VeraXtract își propune să analizeze narațiunile complexe de dezinformare nu numai pentru a identifica informațiile false, ci și pentru a descifra narațiunile din spatele lor. Un „instrument de monitorizare narativă” susținut de IA ar trebui să joace un rol central aici. Această tehnologie oferă explicații înțelese pentru analizele sale și, astfel, oferă transparență utilizatorilor.

Proiectele curente și semnificația lor

Al doilea proiect, news-polygraph, se adresează în mod special jurnaliştilor şi este conceput pentru a găsi informaţii false în texte, imagini, conţinut audio şi video. Prima versiune demo a instrumentului este anunțată pentru aprilie. Având în vedere provocările că verificările faptelor apar adesea prea târziu și dezinformarea rămâne în memoria colectivă, dezvoltarea unor astfel de tehnologii devine din ce în ce mai urgentă.

Grupul de cercetare XplaiNLP are în prezent 24 de membri ai echipei, ceea ce îl face unul dintre grupurile lider în domeniul detectării dezinformarii din Germania. O completare a obiectivelor grupului este necesitatea de a examina critic rolul AI în combaterea dezinformarii. Dr. Schmitt subliniază relevanța AI: poate acționa ca o punte între oameni și poate ajuta la spargerea bulelor de filtrare.

Provocările dezinformarii

Răspândirea omniprezentă a dezinformarii amenință încrederea în instituțiile democratice și poate adânci diviziunile sociale. Utilizarea AI în acest context evidențiază atât riscurile, cât și oportunitățile. Pe lângă identificarea dezinformării, echipa analizează și caracteristicile stilistice pentru a identifica conținutul emoțional și încărcat. Aceste abordări sunt deosebit de relevante în perioada premergătoare alegerilor și conflictelor, când dezinformarea este din ce în ce mai utilizată strategic.

Grupul lucrează, de asemenea, cu parteneri precum Deutsche Welle și Centrul German de Cercetare pentru Inteligență Artificială pentru a dezvolta în continuare metode de detecție a falsurilor și analiză de conținut. Inițiative precum semnatarii internaționali de verificare a faptelor și verificatorii de fapte locali sunt, de asemenea, implicate activ în combaterea dezinformării. Digital Services Act (DSA) ar putea juca, de asemenea, un rol important în reglementarea platformelor de social media atunci când vine vorba de moderarea conținutului.

Un format important pentru schimb sunt evenimente precum discuția despre verificarea faptelor cu AI, care este planificată pentru 10 decembrie 2024 la TU Berlin. Provocările actuale, condițiile cadrului juridic și necesitatea verificărilor umane vor fi discutate aici pentru a îmbunătăți utilizarea IA de către societate.

Viziunea grupului de cercetare se extinde până în 2030, când AI ar trebui să poată detecta și contextualiza dezinformarea în timp real. Aceasta are scopul de a restabili încrederea în informație și, în cele din urmă, de a promova coeziunea socială. Provocările sunt inconfundabile, dar abordările grupului de cercetare XplaiNLP oferă noi perspective în lupta împotriva potopului de dezinformare.