Künstliche Intelligenz bei Snapchat: „My AI“

News

Snapchat hat neuerdings einen Chatbot, der mit den NutzerInnen spricht. Dieser steht für undurchsichtigen Datenschutz in der Kritik. Bei SCHAU HIN! erfahren Eltern, wie sie ihr Kind im Umgang mit der neuen Funktion stärken.

Eine Person hält ein Smartphone mit beiden Händen, auf dem die App "Snapchat" geöffnet ist. Durch die Kamerafunktion auf dem Bildschirm ist zu sehen, dass die Person eine Naturlandschaft filmt.
Kajetan Sumila/Unsplash

Bei „My AI“ (deutsch: „meine künstliche Intelligenz“ oder „meine KI“) handelt es sich um einen Chatbot, der eine/n FreundIn auf Snapchat simuliert. Das Programm basiert auf der bekannten Chatanwendung „ChatGPT“ des Unternehmens OpenAI und ist in die persönlichen Posteingänge der Snapchat-NutzerInnen eingebettet. „My AI“ kann auf Nachrichten antworten und richtige Gespräche führen. Der Chatbot soll bei allen möglichen Fragen behilflich sein, zum Beispiel Geburtstagsgeschenke für die beste Freundin empfehlen, einen Radausflug planen oder ein Rezept für ein Mittagessen vorschlagen.  

Die neue Funktion „My AI“ ist für Snapchat-NutzerInnen nicht zu übersehen. Und auch in den sozialen Netzwerken werden Videos und Screenshots aus den Konversationen geteilt: Das kann auch Kinder und Jugendliche neugierig machen, die Snapchat noch nicht nutzen.

Wie funktioniert „My AI“?

Wenn NutzerInnen das erste Mal mit der KI in Kontakt treten, werden sie begrüßt und können dem Chatbot einen Namen geben. Der Chatbot selbst kontaktiert die NutzerInnen nach der Willkommensnachricht nicht, er reagiert nur auf Eingaben. Neben Textnachrichten kann er auch Snaps (also gesendete Fotos und Videos) empfangen, das Abgebildete erkennen und darauf Bezug nehmen. NutzerInnen können „My AI“ auch in Gruppenchats mit anderen hinzufügen, indem sie eine Nachricht schreiben und an @MyAI adressieren.

„My AI“ selbst schreibt auf Nachfrage, dass er entwickelt wurde, um NutzerInnen dabei zu helfen, ihre Erfahrungen auf Snapchat zu verbessern – indem er Empfehlungen gibt und bei der Suche nach neuen FreundInnen, Inhalten und Funktionen hilft. Snapchat räumt jedoch vor der ersten Nutzung per Hinweistext ein, dass das Tool nicht immer akkurat ist und seine Antworten „voreingenommene, falsche, schädliche oder irreführende Inhalte enthalten können“.

Der Chatbot ist ganz oben bei den Chats fixiert. Auch wenn die Funktion für NutzerInnen interessant klingt, möchten viele dennoch ihre FreundInnen an oberster Stelle ihrer Chats sehen und nicht die KI. Derzeit ist es jedoch nur durch ein kostenpflichtiges Abo von Snapchat+ möglich, „My AI“ vom oberen Rand der Chats zu entfernen.

Künftig soll es die Möglichkeit für Eltern geben, im Snapchat „Family Center“ sichere Einstellungen für die Nutzung ihres Kindes auszuwählen. Bislang ist das noch nicht möglich.

Bedenklicher Datenschutz

Snapchat informiert NutzerInnen darüber, dass alle Inhalte mit „My AI“ gespeichert werden, wenn sie diese nicht löschen – im Gegenteil zu den normalen Chats zwischen FreundInnen. Außerdem werden die Daten verwendet, um personalisierte Werbeanzeigen zu schalten. Das kann gerade für Heranwachsende bedenklich sein, die noch nicht absehen können, dass sich aus vermeintlich vertraulichen Gespräche Produktempfehlungen ergeben können.

Bisher ist für NutzerInnen nicht richtig transparent, welche persönlichen Daten wie eingesehen und wofür diese genutzt werden. Snapchat wird dafür kritisiert, dass unklar ist, ob der Chatbot auf private Informationen – wie Geburtsdatum, Geschlecht oder Standortdaten – zugreifen kann. Auf der Support-Seite der App heißt es zum Beispiel, dass „My AI“ nur dann auf den Standort zugreifen kann, wenn NutzerInnen zugestimmt haben, diesen bei Snapchat zu teilen. Allerdings gibt der Chatbot bei wichtigen Datenschutzfragen widersprüchliche Antworten: So verneint er zum Beispiel die Frage, ob er den genauen Standort von NutzerInnen kennt, oder gibt an, nur die Stadt zu kennen und nicht den genauen Ort, kann aber Restaurants in der Nähe empfehlen.

Das ist vor allem für Kinder und Jugendliche bedenklich, wenn sie sich auf die Antworten von „My AI“ verlassen und so nicht selbstbestimmt über den Schutz ihrer eigenen Daten entscheiden können. Eine Funktion, die hilfreich sein kann: Bei den Einstellungen lassen sich „My AI“-Daten löschen. Dadurch werden vergangene Konversationen von den Snapchat-Systemen entfernt. Für die Gruppenchats, in die „My AI“ hinzugefügt wurde, gilt das jedoch nicht.

Kinder im Umgang mit KI stärken

Für viele NutzerInnen ist der Austausch mit „My AI“ eine lustige Spielerei. Wenn Heranwachsende an „My AI“ Interesse zeigen, können Eltern die Funktion am besten mit ihnen gemeinsam ausprobieren. Neue Technologien bieten immer auch neue Chancen für NutzerInnen, die zusammen erkundet werden können. Wenn Kinder und Jugendliche mit dem Chatbot kommunizieren, können sich jedoch einige Schwierigkeiten ergeben, die Eltern beachten sollten. Deswegen können sie ihr Kind gleichzeitig ein Gefühl für mögliche Risiken vermitteln. So stärken sie es im Umgang mit der künstlichen Intelligenz.

  • Nicht zu viel anvertrauen
    Da „My AI“ in der Chatübersicht zu sehen ist, in der NutzerInnen normalerweise mit FreundInnen kommunizieren, kann sich schnell eine Vertrautheit und das Gefühl eines bekannten Gegenübers einstellen. Das kann UserInnen dazu verleiten, dem Chatbot vertrauliche Informationen preiszugeben. Heranwachsende sollten wissen, dass sie in keinem Fall Geheimnisse, Passwörter und sensible Infos an den Chatbot weitergeben dürfen. Eltern können auch betonen, dass der Einsatz der KI abgewogen werden sollte – gerade weil mögliche Auswirkungen des Austauschs nicht abzusehen sind.
  • Antworten hinterfragen
    Bei künstlicher Intelligenz besteht immer das Risiko, dass falsche oder schädliche Informationen erzeugt werden. So kann es passieren, dass Kinder und Jugendliche mit ungeeigneten Inhalten konfrontiert werden. Laut Anbieter wurde die ChatGPT-Technologie für „My AI“ mit zusätzlichen Sicherheitsverbesserungen und Kontrollen versehen. Jedoch gibt es keine genauen Informationen dazu, worin diese bestehen, und keine Garantie, dass sie verlässlich funktionieren.
    Snapchat selbst rät den NutzerInnen, sich nicht auf die Ratschläge von „My AI“ zu verlassen. Teilweise gibt der Chatbot zweifelhafte Empfehlungen: Wenn nach Hilfe gefragt wird, um FreundInnen zu finden, schlägt „My AI“ direkt SnapchatnutzerInnen aus der Umgebung vor, die laut Aussage der KI real existieren – oder empfiehlt Apps, um Personen aus derselben Stadt zu treffen. Eltern sollten ihr Kind dafür sensibilisieren, dass es die Antworten von künstlicher Intelligenz hinterfragt. Bei persönlichen Sorgen oder Problemen ist es außerdem besser, wenn Kinder und Jugendliche sich an Vertrauenspersonen aus ihrem Umfeld wenden, statt an „My AI“. Bei moralischen Fragen ist eine Künstliche Intelligenz ebenfalls kein guter Ratgeber.
  • Verantwortungsvoll nutzen
    NutzerInnen dürfen „My AI“ nicht verwenden, um Inhalte zu erstellen, die gegen die Snapchat-Community-Richtlinien verstoßen. Auf der Website von Snapchat heißt es außerdem, dass keine politischen, sexuellen, belästigenden oder betrügerischen Inhalte, Spam, Malware oder Inhalte verfasst werden sollten, die Gewalt, Selbstverletzung oder Menschenhandel fördern. „My AI“ gibt außerdem an, dass es Bilder, die „unangemessen“ sind, nicht akzeptiert und NutzerInnen dazu auffordert, solche Inhalte nicht weiter zu versenden.
  • Gutes Gleichgewicht finden
    Dadurch, dass „My AI“ immer auf den ersten Blick bei der Nutzung von Snapchat zu sehen ist, kann die neue Funktion eine ungewollte Ablenkung sein. Der Chatbot antwortet immer direkt und ist zu jeder Tageszeit verfügbar. Deswegen ist es gut, wenn Kinder und Eltern im Blick haben, dass der Austausch mit anderen nicht zu kurz kommt.

Wie immer bei der Mediennutzung ist es wichtig, dass Eltern als Ansprechperson für ihr Kind da sind und ihr signalisieren, dass es sich bei Problemen und Fragen immer an sie wenden kann. Wenn sie im Austausch bleiben, können sie ihm dabei helfen, die Antworten des Chat-Bots besser einzuordnen und ihr eigenes Bauchgefühl zu schulen, wenn ihm z.B. etwas komisch vorkommt.