Die digitale Welt ist im Wandel, und ein Phänomen, das immer mehr an Bedeutung gewinnt, sind fotorealistische Deepfakes. Diese täuschend echten Medieninhalte, die aus echten Bildern, Videos oder Sprachaufnahmen generiert werden, haben nicht nur technische, sondern auch gesellschaftliche Herausforderungen zur Folge. Das Karlsruher Institut für Technologie (KIT) hat nun ein neues Forschungsprojekt ins Leben gerufen, das auf die Bedürfnisse von Betroffenen dieser Cyber-Falle aufmerksam macht.

Das Projekt DEEP-PRISMA, das vom Bundesministerium für Forschung, Technologie und Raumfahrt gefördert wird, hat sich das Ziel gesetzt, den Umgang von jungen Menschen mit Deepfake-Missbrauch zu untersuchen und Hilfsangebote zu entwickeln. Es fällt auf, dass der Missbrauch von Deepfakes stark zunimmt, insbesondere gegen junge Leute. Das KIT berichtet, dass etwa 98% der verbreiteten Deepfakes pornografischer Natur sind, wobei 99% der betroffenen Darstellungen Frauen zeigen.

Der schnelle Anstieg des Missbrauchs

In Zeiten von sozialen Medien, in denen Inhalte blitzschnell viral gehen, sind die Hürden für die Erstellung und Verbreitung von Deepfakes äußerst gering. Mit nur wenigen Klicks können auch Laien täuschend echte Medieninhalte produzieren. Es wird darauf hingewiesen, dass Betroffene häufig unter Rufschädigung, Mobbing und psychischen Belastungen leiden (InfoPoint Security). Die projektverantwortlichen Expertinnen am KIT erkennen den dringenden Handlungsbedarf.

Ein zentrales Anliegen von DEEP-PRISMA ist die Schaffung einer belastbaren Datenbasis durch Umfragen unter Jugendlichen und jungen Erwachsenen. Schließlich gibt es wenig Wissen darüber, wie diese Gruppen mit Deepfake-Missbrauch umgehen. Der planmäßige Austausch in moderierten Diskussionen soll helfen, ein „Action-Kit“ zu entwickeln, das Informationen zu Beweissicherung, Beratungsstellen und rechtlichen Möglichkeiten bündelt.

Juristische Herausforderungen

Ein Teil der Forschungsarbeit widmet sich auch der juristischen Seite des Themas. Bestehende rechtliche Regelungen, wie der Digital Services Act der EU, werden evaluiert. Oft sind diese Regulierungen zu allgemein gefasst und bieten unzureichenden Schutz vor den oft anonym agierenden Tätern im Internet. Das Projektteam wird Vorschläge zur Verbesserung und konsequenten Umsetzung bestehender Gesetze erarbeiten. Herkömmliche rechtliche Maßnahmen stehen dem modernen Missbrauchsphänomen oftmals hilflos gegenüber, was eine gravierende Herausforderung darstellt.

Ein Beispiel für die potenziellen Gefahren von Deepfakes ist der massenhafte Einsatz in Betrugsmaschen. Julia Krickl von ZDF warnt vor den innovativen Ansätzen von Kriminellen, die Deepfakes nutzen, um sich beispielsweise als Prominente auszugeben, und somit Vertrauensverhältnisse aufbauen, um Geld zu erpressen oder zu betrügen. Insbesondere auf Dating-Plattformen werden solche Taktiken immer häufiger genutzt.

Die digitale Zukunft erfordert also ein starkes Bewusstsein und effektive Maßnahmen im Umgang mit Deepfakes. Das Projekt DEEP-PRISMA ist ein wichtiger Schritt in die richtige Richtung, um hilfebedürftige Betroffene zu unterstützen und der steigenden Kriminalität entgegenzuwirken. In einer Welt, in der Realität und Illusion nur schwer zu unterscheiden sind, wird es wichtiger denn je, informiert und vorbereitet zu sein.