Die rasante Entwicklung von Künstlicher Intelligenz (KI) hat einen Boom in der Erstellung von Inhalten ausgelöst, die oft kaum von echten Arbeiten zu unterscheiden sind. Insbesondere bei der Generierung von Bildern und Texten entsteht die dringende Notwendigkeit, ihre Herkunft klar zu kennzeichnen. Forschungsteams weltweit arbeiten an Lösungen, um KI-generierte Werke zu identifizieren und die Verbreitung von Fehlinformationen zu bekämpfen.
Ein zentrales Thema in dieser Diskussion ist die Anwendung von Wasserzeichen. Diese Technologien könnten helfen, nachzuweisen, ob ein Bild von einer KI erzeugt wurde. Sichtbare und unsichtbare Wasserzeichen werden in Bilddateien verwendet, wobei semantische Wasserzeichen als besonders robust gelten. Sie sind tief im Entstehungsprozess eines Bildes eingebettet und gelten daher als schwerer zu entfernen. Doch kürzlich haben Forschende der Cybersicherheit der Ruhr-Universität Bochum Sicherheitslücken in diesen semantischen Wasserzeichen aufgedeckt. Die Ergebnisse wurden auf der „Computer Vision and Pattern Recognition (CVPR)“-Konferenz am 15. Juni 2025 in Nashville, USA, präsentiert. Andreas Müller, Teil des Forschungsteams, erklärt, dass Angreifer semantische Wasserzeichen mit einfachen Mitteln fälschen oder entfernen können. Sein Team hat zwei neue Angriffsmöglichkeiten entwickelt, die diese Technologien bedrohen.
Digitale Wasserzeichen für Texte
Parallel zu den Entwicklungen im Bereich der Bildverarbeitung konzentrieren sich Wissenschaftler*innen der Fakultät Medien, des Fraunhofer-Instituts für Digitale Medientechnologie IDMT und Artefact Germany auf digitale Wasserzeichen für geschriebene Texte und gesprochene Sprache. Ihr Projekt „Lantmark“ zielt darauf ab, automatisierte Inhalte erkennbar zu machen, um die Transparenz und Vertrauenswürdigkeit in digitalen Kommunikationsräumen zu stärken. Die Forschung fokussiert sich hauptsächlich auf die Text-Wasserzeichen-Technologie, mit der Markierungen in Texten versteckt werden, um die Herkunft und mögliche Veränderungen nachvollziehbar zu machen.
Ein wesentliches Ziel dieses Projekts ist es, große Sprachmodelle (LLMs) so zu modifizieren, dass sie eine digitale Signatur tragen. Diese gebrandeten Sprachmodelle sollen von nicht-gebrandeten unterschieden werden können, um nicht-autorisierte Meldungen frühzeitig aufzudecken. Das Projekt wird mit etwa 1,07 Millionen Euro vom Bundesministerium für Bildung und Forschung gefördert und ist Teil von Maßnahmen zur Entwicklung sicherer Technologien in einer zunehmend vernetzten Welt.
Technologischer Kontext und Entwicklungen
Die Notwendigkeit von Wasserzeichen wächst, vor allem, weil sich die Grenzen zwischen Realität und Fiktion immer mehr verwischen. Technologien wie C2PA und SynthID gewinnen an Bedeutung, um KI-generierte Inhalte besser zu erkennen. C2PA erfasst den Ursprung und die Bearbeitung von Bildern in den Metadaten und wird bereits von renommierten Kameraherstellern wie Leica und Canon unterstützt. Meta, das Unternehmen hinter Facebook, plant ebenfalls, KI-generierte Bilder auf seinen Plattformen zu kennzeichnen.
Darüber hinaus arbeitet Google an SynthID, einem Verfahren zur unsichtbaren Kennzeichnung von KI-generierten Bildern, die direkt in die Pixelstruktur eingewebt wird. Diese Technologien zielen darauf ab, die Authentizität von Inhalten zu fördern und werden durch Initiativen wie die Content Authenticity Initiative (CAI) unterstützt, die von Unternehmen wie Adobe und Microsoft ins Leben gerufen wurde.
Die Entwicklung dieser Technologien ist entscheidend, insbesondere da die rechtlichen Auseinandersetzungen bezüglich der Nutzung von KI-generierten Inhalten zunehmen. Getty Images hat beispielsweise Stability AI wegen der Nutzung von über 12 Millionen Bildern aus ihrer Datenbank verklagt. Ähnliche Vorwürfe wurden auch von der New York Times gegen OpenAI erhoben, was die Dringlichkeit unterstreicht, klare Kennzeichnungen für digitale Inhalte zu etablieren.
