Die nächste Generation der Desinformation
Die digitale Welt entwickelt sich ständig weiter, und mit ihr die Techniken der Einflussnahme. Ein internationales Forschungsteam, an dem auch der Konstanzer Social Data-Forscher David Garcia beteiligt ist, warnt vor einer neuen Welle politischer Manipulationen im Internet. Wie uni-konstanz.de berichtet, könnten in Zukunft sogenannte „KI-Schwärme“ eine zentrale Rolle spielen. Diese Gruppen von KI-gesteuerten Personas sind in der Lage, sich in Echtzeit anzupassen und in digitale Gemeinschaften einzudringen. Ziel ist es, den Anschein eines breiten öffentlichen Konsenses zu erwecken, während sie heimlich Desinformation verbreiten.
Ein besonderes Augenmerk liegt auf der Kombination von großen Sprachmodellen (LLMs) mit Multiagentensystemen, die den Einsatz solcher schädlichen KI-Schwärme ermöglichen. Diese intelligenten Systeme können soziale Dynamiken im Internet authentisch nachahmen und so den demokratischen Diskurs gefährden. David Garcia hebt hervor, dass die zentrale Gefahr in einem „künstlichen Konsens“ besteht, der tief in Überzeugungen und Normen eingreift. Führende Wissenschaftler warnen bereits, dass solche Taktiken nicht nur theoretisch sind; sie könnten bereits im Einsatz sein.
Die Schattenseite der Digitalisierung
Die Risiken, die durch diese neuartigen Ansätze entstehen, sind vielschichtig. So warnen Experten, dass bestehende Schwachstellen in unseren digitalen Informationsökosystemen durch bösartige KI-Schwärme weiter verstärkt werden. Die Forscher definieren einen schädlichen KI-Schwarm als ein Netzwerk von KI-gesteuerten Akteuren, die über dauerhafte Identitäten und Erinnerungen verfügen. Sie koordinieren sich auf gemeinsame Ziele und können dabei heterogene Inhalte generieren, was die Erkennung solcher Aktivitäten erschwert.
Der Artikel, veröffentlicht in der Fachzeitschrift Science, weist auch darauf hin, dass der Einfluss dieser KI-Schwärme künstlerische und kulturelle Werte verändern könnte. Die Notwendigkeit, diese Gefahren zu erkennen und zu bekämpfen, rückt immer weiter ins Bewusstsein der Forschungsgemeinschaft. Vorschläge zur Abwehr solcher Bedrohungen umfassen die Verfolgung koordinierten Verhaltens, die Aufdeckung statistisch unwahrscheinlicher Muster und die Schaffung von Verifizierungsoptionen für digitale Inhalte.
Um die Verbreitung von Desinformation zu verhindern, stehen wir vor der Herausforderung, die Öffentlichkeit für diese Themen zu sensibilisieren. Lena Frischlich, eine Medien- und Kommunikationspsychologin, betont, dass Falschinformationen in verschiedenen Formen auftreten können, darunter gefälschte Bilder und falscher Kontext. Ihr Ziel ist es, das Vertrauen der Menschen in Medien und staatliche Institutionen zu erschüttern.
Die Verbreitung ist schneller als je zuvor
Eine besondere Sorge gilt dem schnellen Verbreitungstempo der Fake News, das ähnlich wie bei einem Virus funktioniert. Prof. Meeyoung Cha hebt hervor, dass solche Informationen blitzschnell über Social Media verbreitet werden können. Künstliche Intelligenz spielt dabei eine Schlüsselrolle, da sie die Erstellung von Fake News, einschließlich täuschend echter Deepfakes, erleichtert. Selbst „Cheapfakes“, also simpel produzierte Falschmeldungen, finden schnell ihr Publikum und setzen ihre Desinformationsziele um.
In Anbetracht der Einflussnahme durch bösartige KI-Schwärme und der bereits bestehenden Desinformationskampagnen müssen wir nach Wegen suchen, um unser demokratisches System zu schützen. Der Austausch über mögliche Schutzmaßnahmen, wie die Implementierung von Wasserzeichen und Detektoren, ist somit unerlässlich. Allerdings bleibt die Effektivität dieser Ansätze fraglich. Pretschner, ein Professor für Software und System Engineering, und Frischlich empfehlen, Nachrichten und Informationen kritisch zu hinterfragen und den eigenen Verstand zur Wahrung der Wahrheit zu nutzen.
Künftig könnte der #Faktenfuchs eine wertvolle Unterstützung bei der Bewertung der Echtheit von Informationen bieten, während wir uns in einer zunehmend komplexen Informationslandschaft zurechtfinden müssen. Nur so kann verhindert werden, dass unsere Demokratie leise untergraben wird.