Die Nutzung generativer Künstlicher Intelligenz (GenAI) hat sich in den letzten Jahren rasant entwickelt, und das ganz ohne tiefgehende Fachkenntnisse. Vorbei sind die Zeiten, in denen nur Expert:innen Inhalte wie Bilder, Videos oder Audios erstellen konnten. Heute genügt es, einen kurzen Textprompt einzugeben, um kreative Werke zu generieren. Doch mit dem Aufstieg dieser Technologie verbinden sich auch Herausforderungen. Besonders die Verbreitung von Falschinformationen ist ein ernstes Anliegen, auf das sowohl Gesetzgeber als auch Plattformanbieter aufmerksam geworden sind. News RU Bochum stellte fest, dass spezielle Labels für KI-generierte Inhalte eine mögliche Lösung darstellen.
Forschende der Ruhr-Universität Bochum und des CISPA Helmholtz-Centers für Informationssicherheit, unter der Leitung von Jonas Ricker, PhD, und Sandra Höltervennhoff, haben sich intensiv mit dieser Idee auseinandergesetzt. Ihre Ergebnisse wurden kürzlich auf der Cybersicherheits-Konferenz ACM CHI 2026 in Barcelona vorgestellt. Die Studie zielte darauf ab, das Nutzungsverhalten von KI-Labels aus der Perspektive der User zu analysieren. Diese Labels sollen dabei helfen, KI-generierte Inhalte zu kennzeichnen und Nutzer:innen zu sensibilisieren.
Chancen und Risiken von GenAI
Während GenAI zahlreiche Möglichkeiten eröffnet, gibt es auch bedeutende Risiken. Die Technik erfordert kein spezielles Fachwissen, was sowohl für angehende Kreative als auch für Betrüger eine Einladung sein kann. Die Alarmglocken läuten, wenn man an die positiven wie auch negativen Implikationen der Technologie denkt. Uni Heute unterstreicht, wie dringlich es ist, sich mit den potenziellen Missbräuchen dieser Technologien auseinanderzusetzen. Die Einführung von KI-Labels könnte den Umgang mit KI-generierten Inhalten erheblich verbessern und gleichzeitig dazu beitragen, die Risiken zu verringern.
Als Teil der Forschung wird auch die Weiterentwicklung des Sicherheitsbewusstseins für den Einsatz generativer KI-Modelle angestrebt. Schließlich lernen diese Modelle aus großen Datenmengen, um neue Inhalte zu produzieren. Ein richtiges Verständnis dieser Technologien und ihrer Wirkungen kann dazu beitragen, ihre Vorteile zu nutzen und negative Auswirkungen zu minimieren.
Die Rolle der IT-Sicherheit
Das Thema IT-Sicherheit ist angesichts der fortschrittlichen Entwicklungen in der KI nicht zu vernachlässigen. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) spielt hierbei eine zentrale Rolle, indem es Anforderungen und Prüfkriterien für den sicheren Einsatz von KI-Systemen entwickelt. Diese Anforderungen umfassen Maßnahmen zum Schutz gegen Angriffe auf KI-Systeme sowie die Förderung der IT-Sicherheit durch KI-Lösungen. Bereits heute finden regelmäßige Workshops in Zusammenarbeit mit dem TÜV-Verband und dem Fraunhofer HHI statt, um die Systeme auf ihre Sicherheit hin zu überprüfen.
BSI-Fachleute arbeiten zudem an der Erklärbarkeit von KI und der Verifizierung von Modellen hinsichtlich ihrer Robustheit und Sicherheit. Diese Maßnahmen sind entscheidend, um Vertrauen in KI-Anwendungen zu schaffen und die Zusammenarbeit zwischen Wissenschaft und Industrie zu fördern. Die Integration von KI-Labels könnte dabei eine Brücke schlagen, um sicherzustellen, dass die Nutzer:innen ein umfassendes Verständnis von KI-generierten Inhalten haben und wie sie diese einschätzen können. BSI bietet umfassende Informationen und Empfehlungen zur sicheren Entwicklung von KI-Systemen an.