Die Zunahme von fotorealistischen Deepfakes hat in den letzten Jahren enorme Ausmaße angenommen. Diese Technologien ermöglichen es, täuschend echte Bild- und Videoinhalte zu generieren, die oftmals schwer von echten Medien zu unterscheiden sind. Dies hat weitreichende gesellschaftliche Implikationen, insbesondere für die betroffenen Personen. Heute wird bekannt, dass das Projekt DEEP-PRISMA, gefördert vom Bundesministerium für Forschung, Technologie und Raumfahrt, sich intensiv mit diesem Problem auseinandersetzt und dringend benötigte Hilfsangebote für potenziell Betroffene entwickelt. Laut KIT ist das Ziel des Projekts, Strategien zu entwickeln, die den Missbrauch von Deepfakes eindämmen und die betroffenen Personen unterstützen.
In der Forschung des Karlsruher Instituts für Technologie (KIT) wird auch der Umgang von Betroffenen mit Deepfake-Missbrauch genau unter die Lupe genommen. Die Zahl der online geteilten Deepfakes steigt rasant, und erschreckende 98% dieser Inhalte sind pornografischer Natur, von denen 99% weibliche Personen darstellen. Diese alarmierenden Statistiken unterstreichen die Dringlichkeit des Projekts DEEP-PRISMA, das sich insbesondere auf junge Menschen konzentriert, die oft die Zielscheibe dieser digitalen Angriffe sind.
Fokus auf betroffene junge Menschen
Eine der zentralen Erkenntnisse des Projekts ist das unzureichende Wissen über den Umgang von Betroffenen mit Deepfake-Missbrauch. DEEP-PRISMA zielt darauf ab, eine belastbare Datenbasis zu schaffen, indem Umfragen unter Schülerinnen, Schülern und jungen Erwachsenen durchgeführt werden. Diese Erhebungen sind entscheidend, um zu verstehen, wie Betroffene mit ihren Erfahrungen umgehen und welche Unterstützung sie benötigen. Zudem plant das Projekt, moderierte Diskussionen mit Betroffenen zu führen. Ziel dieser Gespräche ist die Entwicklung eines umfassenden Maßnahmenpakets, das konkrete Handlungsempfehlungen und Informationen zu Anlaufstellen bereitstellt.
Ein weiterer wichtiger Aspekt des Projekts ist die Bewertung bestehender juristischer Regelungen, wie dem Digital Services Act und der KI-Verordnung der EU. Diese bestehenden Regelungen sind oft zu allgemein gefasst und bieten nicht die notwendige Grundlage für wirksame strafrechtliche Ahndungen. Aufgrund der anonymen Täter im digitalen Raum wird die Meldung von Missbrauch weiter erschwert. DEEP-PRISMA beabsichtigt, Empfehlungen zur Weiterentwicklung dieser Regelungen zu erarbeiten, um Missbrauch effektiver zu bekämpfen.
Partnerschaften für umfassende Lösungen
Das Projekt hat eine Laufzeit von drei Jahren und wird in Zusammenarbeit mit mehreren Partnern durchgeführt. Dazu zählen das Fraunhofer-Institut für System- und Innovationsforschung, das Internationale Zentrum für Ethik in den Wissenschaften der Universität Tübingen und die Universität Kassel. Gemeinsam arbeiten diese Institutionen an der Entwicklung eines holistischen Ansatzes zur Bekämpfung des Deepfake-Missbrauchs und der Unterstützung der Betroffenen.
Ein umfassender Bericht über Deepfake-Technologien und deren Auswirkungen wurde bereits beim Deutschen Bundestag vorgestellt, was die Relevanz und Dringlichkeit dieses Themas unterstreicht. DEEP-PRISMA repräsentiert einen bedeutenden Schritt in Richtung eines besseren Schutzes und eines tiefergehenden Verständnisses für die Herausforderungen, die aus dem Missbrauch dieser Technologien entstehen.
Die Entwicklungen von DEEP-PRISMA sind ein wichtiger Bestandteil der laufenden Bemühungen, eine sichere digitale Zukunft für alle Nutzerinnen und Nutzer zu gewährleisten. Angesichts des rapiden Wachstums der Technik ist diese Initiative nicht nur wünschenswert, sondern dringend erforderlich.