Sexualisierte Gewalt und Hassinhalte: steigende Risiken für Kinder im Netz

Der Jahresbericht 2024 von jugendschutz.net zeigt: Kinder sind im Netz immer mehr Risiken ausgesetzt. Neue Technologien und generative Künstliche Intelligenz verstärken diese weiter. In der Pflicht sieht jugendschutz.net vor allem die Betreiber von bei Heranwachsenden beliebten Plattformen, ihre Schutzlücken zu schließen.

Wie sicher können Kinder im Netz unterwegs sein? Dieser Frage geht jugendschutz.net in seinem jährlichen Bericht auf den Grund. Das Ergebnis: Der Schutz auf bei Kindern und Jugendlichen beliebten Plattformen ist lückenhaft. Immer öfter treffen sie auf Fake News, extremistische und Hassinhalte oder erleben sexuelle Gewalt.

Künstliche Intelligenz verstärkt die Risiken noch weiter. Denn: Die Unterscheidung zwischen echt und fake wird mit der sich schnell entwickelnden Technologie immer schwieriger. Künstliche Intelligenz ist außerdem längst Teil unseres Alltags geworden: „Es ist leider inzwischen kinderleicht, Alltagsfotos in Nacktbilder zu verwandeln. Deepnudes werden dann genutzt, um zu mobben oder zu erpressen – eine perfide Dimension der digitalen Gewalt“, warnt Stefan Glaser, Leiter von jugendschutz.net. Der Vorsitzende der Kommission für Jugendmedienschutz (KJM), Dr. Marc Jan Eumann, geht sogar noch einen Schritt weiter und warnt davor, dass jedes Bild, das im Internet erscheint, missbraucht werden würde. Er appelliert deshalb an Eltern, kein Bild zu veröffentlichen, auf dem ihr Kind zu erkennen ist.

Der Bericht zeigt weiter: Rechtsextreme und IslamistInnen nutzen vor allem Social Media, um junge Menschen mit ihren Botschaften zu erreichen. Dabei setzen sie auf hippe Auftritte und Themen, die nah am Alltag der Jugendlichen stattfinden. Im Stil von InfluencerInnen sprechen sie zum Beispiel über Beziehungen oder aktuelle Trends – und verbreiten dabei ihre extremistischen Inhalte. Auch das beliebte Kommunikationstool Discord wird genutzt, um niederschwellig gamingaffine Kinder und Jugendliche mit radikalen Botschaften zu erreichen.

Obwohl viele Betreiber bereits Schutzmechanismen implementiert haben, bleibt das zentrale Problem die Altersüberprüfung. Denn nur wenn das Alter der Kinder tatsächlich überprüft wird, greifen die Jugendschutzmaßnahmen. Auch Bundesjungendministerin Karin Prien sagt klar: „Wir dürfen unsere Kinder mit diesen Gefahren nicht alleinlassen. Deshalb müssen wir gemeinsam handeln: Die Plattformen müssen endlich ihre Verantwortung wahrnehmen. Die rechtlichen Rahmenbedingungen müssen konsequent durchgesetzt werden.“ Jugendmedienschutz ist für sie eine gesamtgesellschaftliche Aufgabe: