Die Debatte um die Sicherheit von Kindern und Jugendlichen im digitalen Raum gewinnt immer mehr an Intensität. Prof. Sandra Cortesi und Prof. Urs Gasser von der Technischen Universität München (TUM) äußern sich in einem Interview über die Herausforderungen, die durch Künstliche Intelligenz (KI) und die Gestaltung digitaler Plattformen entstehen. Gasser betont, dass die jüngsten Urteile gegen Unternehmen wie Meta und Google, die wegen unzureichendem Schutz von Minderjährigen hohe Strafen zahlen mussten, die dringliche Notwendigkeit unterstreichen, Kindersicherheit im Internet angemessen zu berücksichtigen. Diese Informationen stammen aus einem Bericht von der TUM, der eine grundlegende Diskussion über die Mitgestaltung des Digitalunterrichts durch Kinder entfaltete, um digitale Sicherheit zu fördern.
Das Augenmerk liegt dabei auf der Rolle der Plattformgestaltung. Gasser hebt hervor, dass Sicherheitsaspekte nicht nur schädliche Inhalte umfassen, sondern auch, wie die Plattformen selbst aufgebaut sind. Gerichte prüfen zunehmend, welche Risiken durch die Funktionen der angebotenen Dienste entstehen können. Unternehmen sind haftbar zu machen, wenn offensichtliche Gefahren nicht ausreichend adressiert werden. Diese Einsicht plädiert für eine Neugestaltung des digitalen Raums, die das Wohlbefinden von Kindern priorisiert.
Empfehlungen für sichereres digitales Design
Die Arbeitsgruppe hat klare Empfehlungen ausgesprochen: Das digitale Design sollte so gestaltet sein, dass es die Sicherheit, Handlungsfähigkeit und das Wohlbefinden von Kindern und Jugendlichen gewährleistet. Besondere Aufmerksamkeit sollte dabei der Vermeidung süchtig machender Funktionen gelten. Des Weiteren wird der Schutz vor Missbrauch durch Erwachsene als zwingend notwendig erachtet. Es ist festzustellen, dass mehrere Staaten bereits Maßnahmen ergriffen haben, um den Zugang zu sozialen Medien für Kinder unter einem bestimmten Alter zu verbieten oder derartige Schritte zu planen.
Auch die rechtlichen Rahmenbedingungen verändern sich. Mit dem Inkrafttreten des Digital Services Act sind Plattformanbieter verpflichtet, den Zugang von Minderjährigen zu ungeeigneten Inhalten aktiv zu verhindern. Bundesjugendministerin Lisa Paus betont die Notwendigkeit eines sicheren digitalen Zugangs für Kinder, was durch die wachsenden Risiken, die mit der Digitalisierung einhergehen, dringlich wird.
Wachsende Risiken durch Künstliche Intelligenz
Die Gefahren im Internet nehmen durch die Entwicklungen in der Künstlichen Intelligenz zu. Ein Jahresbericht von jugendschutz.net, veröffentlicht am 28. August 2024, zeigt, dass generative KI es erheblich erschwert, zwischen Realität und Fälschung zu unterscheiden. Das führt zu einer Zunahme an sexualisierter Gewalt, Mobbing und Extremismus im Netz. Eine alarmierende Entwicklung ist die schnelle Verbreitung von Online-Trends, die zunehmend riskant werden, sowie die einfache Erstellung von täuschend echten Deepfakes.
Im Kontext dieser Herausforderungen mahnen Experten wie Dr. Marc Jan Eumann, Vorsitzender der Kommmission für Jugendmedienschutz (KJM), dringend zu besseren Altersprüfungen durch Plattformen. Der Bericht zeigt, dass 2023 insgesamt 7645 Verstöße verzeichnet wurden, von denen zwei Drittel auf sexualisierte Gewalt entfielen. Die statistische Auswertung ergibt unter anderem, dass 12 Prozent der Verstöße sexuelle Inhalte und 11 Prozent politischen Extremismus betrafen.
Insgesamt wurden 3210 dieser Verstöße an Anbieter und Selbstkontrolleinrichtungen gemeldet, während 3582 Fälle an Strafverfolgungsbehörden aufgrund kinder- und jugendpornografischer Inhalte oder Gefahren für Leib und Leben übermittelten wurden. Die überwiegende Mehrheit, rund 90 Prozent, der in diesem Jahr registrierten Verstöße wurde bis Jahresende beseitigt. Dies zeigt, dass der Handlungsbedarf enorm bleibt.
Letztlich müssen sowohl technische als auch gesetzliche Maßnahmen zusammengeführt werden, um ein sicheres digitales Umfeld zu schaffen, in dem Kinder und Jugendliche lernen können, Medien selbstbestimmt und positiv zu nutzen. Gasser fordert eine differenzierte Regulierung, die weit über einfache rote Linien hinausgeht und umfassende Schutzmechanismen schafft.
Weitere Informationen zu diesen dringenden Fragen finden sich in den Berichten von TUM, BMBF sowie die detaillierte Analyse von jugendschutz.net.