Content-Moderator:innen prüfen im Auftrag von TikTok verbotene Uploads. Wie ein US-Magazin berichtet, sollten sie dafür ein Dokument mit Hunderten Aufnahmen sexualisierter Gewalt gegen Kinder zurate ziehen. Die betroffenen Unternehmen bestreiten das.
TikTok soll Darstellungen sexualisierter Gewalt gegen Kinder gespeichert und für interne Schulungszwecke verbreitet haben. Das berichtet das US-Magazin Forbes und beruft sich auf Gespräche mit ehemaligen Content-Moderator:innen. Sie waren demnach nicht direkt bei TikTok angestellt, sondern bei einem von TikTok beauftragten US-Unternehmen namens Teleperformance.
Konkret soll es um Hunderte Fotos von Kindern gehen, wie Forbes berichtet. Sie seien nackt oder würden Ziel von Gewalt. Die Aufnahmen seien zuvor von TikTok gelöscht worden. Ein Dokument mit diesen Aufnahmen soll für Hunderte Personen bei Teleperformance und TikTok zugänglich gewesen sein. Eine ehemalige Mitarbeiterin habe sich laut Forbes deshalb an das FBI gewandt. Die US-Polizeibehörde habe jedoch keine Presseanfragen hierzu beantwortet.
TikTok bestreitet die Vorwürfe gegenüber Forbes. Für das Trainingsmaterial gebe es strenge Zugangskontrollen und es beinhalte keine bildlichen Beispiele von Missbrauch. Ein Teleperformance-Sprecher teilte Forbes mit, die Firma nutze keine entsprechenden Videos zu Schulungszwecken.
Zugriff angeblich aus dem Home Office möglich
Content-Moderator:innen sichten auf Plattformen wie TikTok und Facebook die Massen an Uploads nach regelwidrigen oder illegalen Aufnahmen. Viele Tech-Konzerne beauftragen damit externe Firmen. Zur Arbeit gehören auch Schulungen, welche Uploads nicht erlaubt sind, und entsprechende Dokumente zum Nachschlagen. Ungewöhnlich wäre es, wenn dabei tatsächliche Darstellungen sexualisierter Gewalt gegen Kinder für viele Angestellte zugänglich gemacht würden.
Eine ehemalige TikTok-Moderatorin sagte Forbes, sie habe bei der Arbeit gedacht: „Das ist jemandes Sohn. Das ist jemandes Tochter“. Sie sei sich sicher: „Wenn die Eltern das wüssten, würden sie TikTok niederbrennen.“
Wie Forbes berichtet, habe ein Großteil der Angestellten von Teleperformance während der Pandemie im Home Office gearbeitet. Ein ehemaliger Angestellter sagte Forbes, auch von zuhause aus sei das Dokument mit den Gewaltdarstellungen zugänglich gewesen. „Wenn jemand das wollte, könnte er sein Telefon zücken und einfach alles aufzeichnen, was er sieht“. Immer wieder gibt es Berichte darüber, dass Content-Moderator:innen für große Online-Plattformen unzureichend bezahlt, geschult und psychologisch betreut werden.
Auch aus rechtlichen Gründen müssen Tech-Konzerne bei der Content-Moderation den Zugriff auf Gewaltdarstellungen gegen Kinder streng regulieren. In den USA gehen Verdachtsmeldungen an eine zentrale Sammelstelle namens NCMEC. Eine TikTok-Sprecherin teilte Forbes mit, man sei bestrebt, den Kontakt der Moderator:innen mit diesem Material im Einklang mit höchsten Branchenstandards zu minimieren.
Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.
0 Commentaires