Facebook-Tools gegen Missbrauch nur teilweise erfolgreich

News

Algorithmen bei Facebook, die Beleidigungen und Missbräuche erkennen und melden sollen, funktionieren nur teilweise so, wie erhofft. Das zeigt der erste Facebook-Transparenzbericht, in dem auf Mobbing eingegangen wird.

Facebook App auf Smartphone
Pixabay/ Pexels

Facebook verfügt über Algorithmen und Technologien um gegen Cybermobbing und andere Missbräuche vorzugehen. Es werden zusätzlich speziell geschulte Teams eingesetzt, die sich darauf konzentrieren, potentiell rechtswidrige Inhalte zu finden und für weitere Überprüfungen zu kennzeichnen.
Nun zeigt sich jedoch, dass diese Technologien nur beschränkt für mehr Sicherheit sorgen können. Von 886 Beschwerden, die in einem Zeitraum von sechs Monaten gemeldet wurden, sind lediglich 113 von Beschwerdestellen eingegangen – das sind weniger als 15 Prozent. Ein Großteil der Meldungen wird also nach wie vor von Einzelpersonen getätigt.

Einzelpersonen melden öfter Verstöße

Die Verstöße, die am häufigsten gemeldet werden, sind Beleidigungen, üble Nachrede und Verleumdung. Beleidigungen wurden insgesamt 460 gemeldet, davon lediglich 56, also zwölf Prozent, von Beschwerdestellen. Bei übler Nachrede und Verleumdung sind es jeweils elf Prozent.
Diese Zahlen beschränken sich auf Beschwerden, die über das NetzDG-Meldeformular in einem bestimmten Zeitraum getätigt wurden und können somit quantitativ nur stellvertretend für die Missbrauchs-Realität, die auf Facebook herrscht, gesehen werden.
Im aktuellen Transparenzbericht zum Thema „Durchsetzung der Gemeinschaftsstandards“ veröffentlicht Facebook erschreckende Zahlen: Gegen 15,4 Millionen Inhalte mit drastischen Gewaltdarstellungen wurde im dritten Quartal 2018 vorgegangen. Außerdem wurden 754 Millionen gefälschte Konten gelöscht.

Wieso funktionieren Technologien nur mäßig?

Algorithmen, künstliche Intelligenzen und auch ExpertInnenteams können nie 100 Prozent der Missbrauchsverstöße erfassen. In den beiden neuen Kategorien „Bullying“ (Mobbing) und „Belästigung“ sei es besonders schwierig, Missbräuche zu erkennen: „Bullying und Belästigung sind oft persönlich und unterscheiden sich je nach Kontext. In vielen Fällen muss uns dieses Verhalten also gemeldet werden, bevor wir es erkennen und entfernen können.“, heißt es in Facebooks Transparenzbericht.

Selbst für Sicherheit sorgen

Diese Ergebnisse zeigen, wie wichtig es trotz neuer Technologien ist, missbräuchliche Inhalte selbst zu melden. Außerdem kann durch die richtigen Sicherheitseinstellungen das Risiko, missbräuchlichen Inhalten zu begegnen verringert werden.