Bericht zu Jugendmedienschutz 2023: Mehr Risiken, unzureichende Anbietervorsorge

Der Jahresbericht 2023 von jugendschutz.net zeigt: Das Gefährdungspotenzial für Kinder und Jugendliche im Netz nimmt zu. Bekannte Risiken verstärken sich, neue kommen besonders durch die Möglichkeiten von Programmen mit Künstlicher Intelligenz hinzu. jugendschutz.net sieht dringenden Verbesserungsbedarf für Betreiber von Plattformen, die bei Kindern und Jugendlichen beliebt sind.

Wie steht es um den Jugendschutz im Internet? Die aktuellen Risiken und Handlungsbedarfe hat jugendschutz.net in seinem jährlichen Bericht veröffentlicht. Einer der zentralen Befunde des Berichts: Der Einsatz von Programmen mit generativer Künstlicher Intelligenz verstärkt Risiken wie sexualisierte Gewalt, Mobbing und Extremismus. Insgesamt nimmt das Gefährdungspotenzial für Kinder und Jugendliche im Netz zu – auch weil Kinder digitale Angebote in immer jüngerem Alter nutzen und die Schnelligkeit von Online-Trends Eltern, Anbieter und Jugendschützer herausfordert.

Fünf Gefahren hebt der Jahresbericht besonders hervor:

• Deepfakes und realistische Fälschungen durch Generative KI
• Hassinhalte von ExtremistInnen, die Kriegsleid und Klimawandel für Propaganda nutzen
• Videochats mit Kindern werden missbraucht, um Missbrauchsdarstellungen herzustellen
• Trends wie Challenges und Pranks sowie Trends im Fitnessbereich können gefährliche Folgen haben
• Auf der Spieleplattform Roblox stoßen junge NutzerInnen auf Extremismus, Belästigung und Kostenfallen

Auf einer Pressekonferenz wurde der Bericht in Berlin vorgestellt. Bundesfamilienministerin Lisa Paus, Stefan Glaser, Leiter von jugendschutz.net, Katharina Binz, Jugendministerin Rheinland-Pfalz, sowie Dr. Marc Jan Eumann, Vorsitzender der Kommission für Jugendmedienschutz (KJM), betonten, dass die Anbieter von Plattformen, die bei jungen NutzerInnen beliebt sind, diese bei der Nutzung ihrer Angebote nicht effektiv vor gefährdenden Inhalten und Übergriffen schützen. Vorhandene Meldesysteme funktionieren nicht zuverlässig und einige der Jugendschutzeinstellungen greifen nicht verlässlich, weil nicht überprüft wird, wie alt die Nutzenden tatsächlich sind. Zwei Drittel der von jugendschutz.net registrierten Verstöße 2023 bezogen sich auf sexualisierte Gewalt. Pädosexuelle nutzen Live-Streams von Heranwachsenden oder veröffentlichte Aufnahmen von Kindern und Jugendlichen, um diese für ihre Zwecke zu missbrauchen.

Seit Februar 2024 werden große, international operierende Plattformen von der EU-Kommission reguliert. „Mit dem Digital Services Act haben wir uns in Europa ein starkes Werkzeug gegeben: Anbieter von Online-Plattformen sind verpflichtet den Zugang Minderjähriger zu ungeeigneten Inhalten zu verhindern und für ein hohes Maß an Privatsphäre und Sicherheit innerhalb ihres Dienstes zu sorgen. Diese Regeln müssen jetzt konsequent umgesetzt werden”, sagt Bundesfamilienministerin Lisa Paus. Neben der Anbietervorsorge und technischen Jugendschutzmaßnahmen bleiben die Medienkompetenz der Kinder und Jugendlichen sowie die Begleitung durch ihre Eltern wichtige Faktoren, um die Heranwachsenden bestmöglich zu schützen, wenn sie Online-Angebote nutzen. Jüngere nutzen am besten nur altersgerechte Angebote und werden durch die elterliche Auswahl geeigneter Anwendungen und Seiten sowie Jugendschutzeinstellungen vor ungeeigneten Inhalten geschützt. Ältere müssen Risiken erkennen und einordnen können, wenn sie darauf stoßen, und sich für Unterstützung an ihre Eltern oder andere Vertrauenspersonen wenden können.