AI срещу дезинформацията: Борбата на д-р Вера Шмит за истината!

AI срещу дезинформацията: Борбата на д-р Вера Шмит за истината!

В свят, в който дезинформацията се разпространява все по-лесно, изследователската група XplaiNLP на ТУ Берлин представлява решаваща стъпка в борбата с това предизвикателство. Под ръководството на д-р Според Вера Шмит, групата си е поставила за мисия да засили устойчивостта на обществото срещу дезинформация. С над 4 милиона евро финансиране от трети страни, нейното изследване е насочено към разработване на инструменти, които помагат както на журналистите, така и на обществеността да разберат по-добре разказите за дезинформация.

Работата на групата се фокусира върху два основни проекта: VeraXtract и news-polygraph. Проектът VeraXtract има за цел да анализира сложни разкази за дезинформация, за да не само идентифицира невярна информация, но и да дешифрира разказите зад тях. Поддържан от AI „инструмент за мониторинг на разказ“ трябва да играе централна роля тук. Тази технология предоставя разбираеми обяснения за своите анализи и по този начин предлага прозрачност за потребителите.

Текущи проекти и тяхното значение

Вторият проект, news-polygraph, е насочен специално към журналистите и е предназначен за намиране на невярна информация в текстове, изображения, аудио и видео съдържание. Първата демо версия на инструмента е обявена за април. Предвид предизвикателствата, че проверките на фактите често се случват твърде късно и дезинформацията остава в колективната памет, разработването на такива технологии става все по-спешно.

Изследователската група XplaiNLP в момента има 24 членове на екипа, което я прави една от водещите групи в областта на откриването на дезинформация в Германия. Допълването на целите на групата е необходимостта от критично изследване на ролята на ИИ в борбата с дезинформацията. Д-р Шмит подчертава уместността на AI: Той може да действа като мост между хората и да помогне за пробиване през филтърните мехурчета.

Предизвикателствата на дезинформацията

Вездесъщото разпространение на дезинформация заплашва доверието в демократичните институции и може да задълбочи социалните разделения. Използването на AI в този контекст подчертава както рисковете, така и възможностите. В допълнение към идентифицирането на дезинформация, екипът анализира и стилистични характеристики, за да идентифицира емоционално и натоварено съдържание. Тези подходи са особено подходящи в периода преди избори и конфликти, когато дезинформацията се използва все повече стратегически.

Групата също така работи с партньори като Deutsche Welle и Германския изследователски център за изкуствен интелект за по-нататъшно развитие на методите за дълбоко откриване на фалшификати и анализ на съдържанието. Инициативи като International Fact-Checking Signatories и местни проверяващи факти също участват активно в противодействието на дезинформацията. Законът за цифровите услуги (DSA) също може да играе важна роля в регулирането на социалните медийни платформи, когато става въпрос за модериране на съдържание.

Важен формат за обмен са събития като дискусията за проверки на факти с AI, която е планирана за 10 декември 2024 г. в TU Berlin. Тук ще бъдат обсъдени настоящите предизвикателства, условията на правната рамка и необходимостта от човешки проверяващи факти, за да се подобри използването на ИИ от обществото.

Визията на изследователската група се простира до 2030 г., когато AI трябва да може да открива и контекстуализира дезинформация в реално време. Това има за цел да възстанови доверието в информацията и в крайна сметка да насърчи социалното сближаване. Предизвикателствата са безпогрешни, но подходите на изследователската група XplaiNLP предлагат нови перспективи в борбата срещу потока от дезинформация.