Twitter hat ein Problem bei der Erkennung von sexualisierter Gewalt gegen Kinder. Das zeigt ein interner Bericht, den das Unternehmen erstellen ließ um neue Geschäftsmodelle zu prüfen. Die Autor*innen fordern massive Investitionen in eine neue Infrastruktur – bisher offenbar ohne Erfolg.
Twitter hat keine ausreichenden Tools, um Inhalte mit sexualisierter Gewalt gegen Kinder frühzeitig zu entdecken. Zu diesem Schluss kommen die Autor*innen eines internen Berichtes der Plattform, über den The Verge berichtet. „Twitter ist nicht in der Lage, sexuelle Ausbeutung von Kindern und nicht einvernehmliche Nacktheit in großem Umfang zu erkennen“, stellte das Team demnach im April 2022 fest.
Laut Aussagen von früheren und aktuellen Mitarbeiter*innen seien die Führungskräfte offenbar gut über das Problem informiert, trotzdem tue Twitter wenig, um es zu beheben.
Die Pressesprecherin von Twitter, Katie Rosborough erklärt: „Twitter hat keine Toleranz gegenüber sexueller Ausbeutung von Kindern. Wir bekämpfen den sexuellen Missbrauch von Kindern im Internet aggressiv und haben erheblich in Technologie und Tools investiert, um unsere Richtlinie durchzusetzen.“
Auf unbestimmte Zeit verschoben
Anlass für den Bericht waren demnach Pläne von Twitter, ein Bezahl-Modell für legale Erotikinhalte einzuführen, ähnlich wie OnlyFans. Die Pläne seien nach den Warnungen des Teams auf unbestimmte Zeit verschoben worden – kurz nachdem Elon Musk im April ankündigte, Twitter zu übernehmen.
Twitter versucht generell, neue Finanzierungsmöglichkeiten zu finden. Die Plattform hat in den letzten Jahren vor allem rote Zahlen geschrieben. Mit der neuen Funktion hätte Twitter Creator*innen die Möglichkeit gegeben, Erotikinhalte exklusiv für zahlende Nutzer*innen zu erstellen. Von den Einnahmen hätte Twitter wiederum ein Teil abbekommen. Seit 2021 existiert bereits die Möglichkeit nicht sexuell explizite Tweets zu monetarisieren. Dies ist mit der Funktion „Super Follower“ möglich.
Twitter setzt veraltete Tools ein
Die Probleme um das Finden und Löschen von illegalen Inhalten sind Twitter nicht erst durch den Bericht aufgefallen. Schon 2021 habe eine weitere interne Gruppe Alarm geschlagen, berichtet The Verge: Sie wiesen damals schon darauf hin, Twitter setze veraltete Tools ein, um Darstellungen von Gewalt gegen Kinder aufzuspüren.
Grundsätzlich haben viele Social-Media-Plattformen Schwierigkeiten, die Menge an Inhalten mit sexualisierter Gewalt an Kindern, die von Nutzer*innen täglich hochgeladen werden, schnell zu entfernen. Aber im Gegensatz zu Twitter investiert beispielsweise der Meta-Konzern, zu dem unter anderem Facebook und Instagram gehören, wesentlich mehr Geld in die Moderation und Infrastruktur.
Twitter verwendet dagegen dem Bericht zufolge für die Erkennung dieser Inhalte vor allem die gängige Datenbank „PhotoDNA“ von Microsoft. Allerdings können mit dieser nur Inhalte erkannt werden, die bereits als illegales Material identifiziert und in der Datenbank hinterlegt sind. Sie ist somit nicht für die Erkennung neuer Inhalten geeignet. Die Software, die Twitter dagegen zur Entdeckung neuer Inhalte einsetzt, ist laut den Berichten ineffizient, schlecht gewartet und fehlerhaft.
Auch bei der Übertragung an die zuständigen Behörden gibt es laut dem Bericht Defizite. Alle Plattformen sind nach dem US-Gesetz dazu verpflichtet, Inhalte, die Gewalt gegen Kinder zeigt, an die semistaatliche Organisation National Center for Missing & Exploited Children (NCMEC) (zu deutsch: Nationales Zentrum für vermisste und ausgebeutete Kinder) zu übermitteln. Dadurch, dass Twitter die Übermittlung nicht automatisiert vornimmt, bilde sich ein Rückstau bei den Meldungen, heiße es im Bericht.
Der Bericht fordert Twitter dazu auf, die Infrastruktur für Erkennung und Löschung von Inhalten mit sexualisierter Gewalt dringendst zu modernisieren. Allerdings hat die Leitung von Twitter seit dem Bericht aus dem Jahr 2021 nicht viel getan, um diese Defizite zu beheben, schreibt The Verge.
Noch größere Probleme durch Monetarisierungs-Pläne erwartet
Die Autor*innen des aktuellen Berichtes, der die Auswirkung der Monetarisierung von erotischen Inhalten überprüfen sollte, kommen zu dem Schluss, dass sich die genannten Schwierigkeiten bei der Erkennung und Löschung von illegalen Inhalten noch verschlimmert hätten, hätte Twitter das Vorhaben in die Tat umgesetzt. „Heute können wir nicht proaktiv verletzende Inhalte identifizieren und haben inkonsistente [Richtlinien] für nicht jugendfreie Inhalte und deren Durchsetzung“, schrieben sie in dem Bericht.
Zwar sehen sie durch die so generierten Mehreinnahmen die Möglichkeit, die dringend benötigte Modernisierung von Twitter zu finanzieren. Insgesamt aber überwiegen die Sorgen vor den genannten Risiken.
Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.
0 Commentaires