KI-Chatbots und Charakter-Bots: Risiken für Kinder und Jugendliche

KI-Chatbots sind digitale Anwendungen, die mithilfe Künstlicher Intelligenz Gespräche mit NutzerInnen führen können. Während klassische Chatbots, wie sie beispielsweise auf Websites von Versicherungen oder anderen Unternehmen zur Beantwortung von Fragen eingesetzt werden, häufig Informationen bereitstellen oder bei einfachen Anliegen helfen, sind sogenannte Charakter-Bots oder KI-BegleiterInnen darauf ausgelegt, längere Gespräche zu führen und eine persönliche Beziehung zu simulieren. 

Viele dieser Anwendungen treten als virtuelle FreundInnen, GesprächspartnerInnen oder BegleiterInnen auf. Sie reagieren auf Nachrichten, können frühere Gesprächsinhalte aufgreifen und ihre Antworten an die NutzerInnen anpassen.  

Bei manchen KI-Chatbots, etwa ChatGPT oder Claude, müssen Funktionen wie das Erinnern an frühere Gespräche jedoch zunächst aktiviert oder erlaubt werden. Dadurch können sie besonders aufmerksam und verständnisvoll wirken.

Auch mit KI-BegleiterInnen, die nicht ausdrücklich als „Sexbots“ bezeichnet werden, können sexualisierte Gespräche oder Szenarien entstehen. Dabei handelt es sich um Anwendungen, die längere persönliche Gespräche ermöglichen und dabei auch romantische oder sexualisierte Inhalte aufgreifen können. Einige Angebote werben beispielsweise mit virtuellen Beziehungen oder Flirts. 

KI-BegleiterInnen können auch sexualisierte Kommunikation führen. Risiken können insbesondere dann entstehen, wenn solche Gespräche intime Themen berühren und NutzerInnen dazu bringen, persönliche Informationen preiszugeben. 

Kinder und Jugendliche können solchen Anwendungen über Apps, Webseiten oder Social Media begegnen. Viele Angebote wirken zunächst unterhaltsam oder harmlos, können aber Inhalte enthalten, die für junge NutzerInnen ungeeignet sind.
 

Kinder und Jugendliche beschäftigen sich intensiv mit Freundschaft, Liebe, Beziehungen und ihrer eigenen Identität. Dabei entstehen viele Fragen zu Nähe, Gefühlen und Sexualität. Dabei entstehen viele Fragen zu Nähe, Gefühlen und Sexualität.  

Dabei entstehen viele Fragen zu Nähe, Gefühlen und Sexualität. Nutzer können solche Themen in Gesprächen mit KI-Begleiter ansprechen, die darauf entsprechend reagieren. Dadurch entsteht ein scheinbar geschützter Raum für persönliche Fragen. Eine Studie der DAK zeigt, dass etwa jedes zehnte Kind bzw. jede zehnte Jugendliche Chatbots nutzt, um sich besser verstanden zu fühlen oder Dinge zu erzählen, die sie sonst kaum jemandem anvertrauen würden. 

Viele KI-Bots reagieren freundlich, aufmerksam und verständnisvoll. Sie machen Komplimente, bestätigen Aussagen und passen ihre Antworten an die Nutzer an. Dadurch können sie wie ideale Gesprächspartner wirken – ohne Streit, Zurückweisung oder Unsicherheiten. 

Auch die ständige Verfügbarkeit spielt eine Rolle: KI-BegleiterInnen sind jederzeit erreichbar und reagieren unmittelbar. Gerade für Jugendliche kann diese Kombination aus Technologie, Unterhaltung und vermeintlicher Nähe interessant sein.

KI-Bots können für Kinder und Jugendliche verschiedene Risiken bergen. Bei KI-BegleiterInnen können diese insbesondere dann entstehen, wenn sie emotionale Nähe oder persönliche Beziehungen simulieren oder sexualisierte Interaktionen ermöglichen. 

Der Report „Charakter-Bots – Sexualisierung Minderjähriger und riskante Interaktion“ von jugendschutz.net zeigt, welche Risiken insbesondere bei KI-gestützten Charakter-Bots entstehen können, etwa wenn sie emotionale Nähe simulieren, sexualisierte Inhalte anbieten oder minderjährige Charaktere darstellen, mit denen sexualisierte Interaktionen möglich sind. Solche Darstellungen können dazu beitragen, dass Hemmschwellen gegenüber der Sexualisierung von Kindern und Jugendlichen sinken. 

Gerade junge NutzerInnen müssen lernen, digitale Angebote einzuordnen und zwischen einer simulierten Beziehung und echten menschlichen Beziehungen zu unterscheiden.

• UNREALISTISCHE VORSTELLUNGEN VON BEZIEHUNGEN 
  KI-BegleiterInnen reagieren häufig verständnisvoll und passen ihre Antworten an die Wünsche ihrer NutzerInnen an. Konflikte, unterschiedliche Bedürfnisse oder persönliche Grenzen spielen dabei kaum eine Rolle. Dadurch kann ein verzerrtes Bild davon entstehen, wie echte Beziehungen funktionieren. Zwischenmenschliche Beziehungen leben dagegen von gegenseitigem Respekt, Kommunikation, Kompromissen und dem Umgang mit unterschiedlichen Meinungen. 
• SEXUALISIERTE UND UNGEEIGNETE INHALTE 
  Einige KI-BegleiterInnen ermöglichen romantische oder sexualisierte Gespräche. Kinder und Jugendliche können dadurch mit Inhalten konfrontiert werden, die sie überfordern oder nicht ihrem Entwicklungsstand entsprechen. Auch Schutzmechanismen und Alterskontrollen funktionieren nicht bei allen Angeboten zuverlässig. 
• EMOTIONALE BINDUNG 
  Manche NutzerInnen entwickeln eine starke emotionale Verbindung zu KI-BegleiterInnen. Wenn ein Chatbot als wichtige Vertrauensperson wahrgenommen wird, kann dies dazu führen, dass reale Kontakte und persönliche Beziehungen weniger wichtig werden. Gerade bei Kindern und Jugendlichen, die bereits mit Problemen oder Belastungen zu kämpfen haben, kann eine solche Bindung bestehende Schwierigkeiten verstärken, anstatt sie zu lösen. 
• DATENSCHUTZ UND PRIVATSPHÄRE 
  In Gesprächen mit KI-Anwendungen teilen NutzerInnen häufig persönliche Gedanken, Gefühle oder Probleme. Jugendliche sollten wissen, dass diese Informationen gespeichert, verarbeitet oder zur Weiterentwicklung von Systemen genutzt werden können. 
• KOMMERZIELLE INTERESSEN 
  Viele KI-Anwendungen können zunächst kostenlos genutzt werden. Zusätzliche Funktionen, längere Gespräche oder besondere Interaktionen werden jedoch häufig kostenpflichtig angeboten.

KI-Chatbots und virtuelle BegleiterInnen sind ein vergleichsweise neues Phänomen. Kinder und Jugendliche können solchen Anwendungen bereits begegnen und sie aus Neugier ausprobieren. 

Wichtig ist deshalb, offen über die Funktionsweise solcher Angebote und mögliche Risiken zu sprechen. Eine vertrauensvolle Gesprächsatmosphäre hilft Kindern und Jugendlichen dabei, Erfahrungen anzusprechen und Fragen zu stellen.

• INTERESSE ZEIGEN 
  Fragen Sie nach, welche KI-Anwendungen Ihr Kind nutzt und was es daran interessant findet. Offene Gespräche helfen dabei, Erfahrungen gemeinsam einzuordnen. 
• ÜBER ECHTE BEZIEHUNGEN SPRECHEN 
  Besprechen Sie, was Freundschaften und Beziehungen ausmacht: Vertrauen, Respekt, gegenseitige Rücksichtnahme und persönliche Grenzen. Erklären Sie, dass KI-Anwendungen keine echten Gefühle haben und keine menschlichen Beziehungen ersetzen können. 
• DATENSCHUTZ THEMATISIEREN 
  Machen Sie deutlich, dass persönliche oder intime Informationen nicht bedenkenlos mit digitalen Diensten geteilt werden sollten. 
• ALTERSGERECHTE EINSTELLUNGEN NUTZEN 
  Prüfen Sie, ob ein Angebot Altersbeschränkungen oder Sicherheitseinstellungen bietet. Bei vielen KI-Angeboten wird das Alter der Nutzer nicht zuverlässig geprüft, und spezielle Sicherheitseinstellungen sind oft nicht vorhanden. Technische Schutzmaßnahmen können unterstützen, ersetzen aber nicht das Gespräch. 
• KRITISCHES DENKEN FÖRDERN 
  Sprechen Sie darüber, dass KI-Chatbots keine eigenen Gefühle oder Absichten haben. Ihre Antworten entstehen durch technische Systeme und sind darauf ausgelegt, Gespräche fortzuführen.