Wenn ein Jugendschutz-Filter Seiten über Verhütung sperrt, dann läuft etwas schief. Ein neues Online-Tool macht es so einfach wie nie zuvor, solche Fehler bei Deutschlands wichtigstem Filter JusProg zu entdecken. Erste Funde gibt es schon.
Deutschlands wichtigster Jugendschutz-Filter, JusProg, blockiert Aufklärungsseiten; das hat diese Woche unsere Recherche-Kooperation mit BR Data gezeigt. In Dutzenden Fällen hat der Filter Websites als „ab 18“ eingestuft, obwohl sie Aufklärung zu sensiblen Themen wie Verhütung oder Coming-Out boten. Inzwischen hat JusProg nachgebessert; die Seiten haben eine niedrigere Alterseinstufung erhalten. Erledigt hat sich das Thema damit allerdings nicht, denn inzwischen wurden weitere Fehler entdeckt.
JusProg ist der einzige Jugendschutz-Filter für Websites in Deutschland, der die gesetzlichen Anforderungen erfüllt und dafür offiziell anerkannt ist. Eltern können ihn auf den Geräten ihrer Schützlinge installieren. Stoßen Kinder auf eine irrtümlich gesperrte Website, können Eltern diese Seite händisch freischalten. Der Filter kommt aber auch in öffentlichen WLANs zum Einsatz, etwa dem kostenlosen, staatlichen BayernWLAN. Auf diese Weise bekommen auch Erwachsene das gefilterte Internet vorgesetzt.
Wenn Technologie zu viele Inhalte blockiert, nennt man das Overblocking. Mindestens 74 Fälle von Overblocking durch JusProg hatte unsere Recherche sichtbar gemacht. Hinter diesen Aufklärungsseiten zu sensiblen Themen standen gemeinnützige Organisationen oder staatlich finanzierte Angebote. Grundlage der Recherche war die Vorarbeit der IT-Sicherheitsforscherin Lilith Wittmann, die hierzu auch eine ausführliche Analyse veröffentlicht hat.
Deutschlands wichtigster Jugendschutz-Filter blockiert Hilfsangebote
Wie kann man sich vor solch fehlerhaften Jugendschutz-Programm schützen? Diese Frage hat sich auch Wittmann gestellt. Ihre Antwort ist das – Achtung: Wortspiel – Jugendschutz-Schutz-Programm. Das ist ein Online-Dienst, mit dem Nutzer*innen kinderleicht selbst überprüfen können, welche JusProg-Altersstufe eine Website hat.
Bislang war das nicht so einfach möglich. Zuvor mussten sich Nutzer*innen JusProg etwa selbst auf ein Gerät holen und im Kinder-Modus eine Website ansteuern. Das Jugendschutz-Schutz-Programm dagegen lässt sich einfach im Browser bedienen. Auf diese Weise können alle Interessierten schnell und einfach selbst überprüfen, worauf unsere Recherche zunächst nur ein Schlaglicht geworfen hat: Welche Internet-Angebote sind für Kinder und Jugendliche gesperrt, obwohl sie frei zugänglich sein sollten?
Deutsche Aidshilfe: „Sperrpraxis ist diskriminierend“
Allein weil sich das Internet ständig verändert, ist klar: Ein Filter wie JusProg kann niemals fertig sein. Der Betreiber-Verein selbst kommuniziert auf der eigenen Website offen, dass die Software Fehler macht, und gibt Gelegenheit, Hinweise einzureichen.
Für manche Betroffene von irrtümlichen Sperren ist das nicht genug. Das zeigt eine Pressemitteilung der Deutschen Aidshilfe vom 17. Januar. In Folge unserer Recherchen übte die Aidshilfe scharfe Kritik an JusProg. Vorstandsmitglied Ulf Kristal schrieb:
Diese Sperrpraxis ist diskriminierend und wirkt dem Auftrag der Aufklärung und Prävention entgegen. Jugendlichen werden damit lebenswichtige Informationen vorenthalten. Angebote zu sexueller Bildung für junge Menschen gilt es zu stärken statt wegzufiltern.
Die Deutsche Aidshilfe hatte die Recherche zum Anlass genommen, weitere Websites aus ihrem Umfeld zu prüfen. Die gute Nachricht: Bei etwa 50 Seiten davon sei die Altersstufe „ab 6“ gewesen, wie uns Digitalreferent Manuel Hofmann mitteilt. Aber Hofmann hat auch einige weitere, augenscheinliche Fälle von Overblocking durch JusProg entdeckt. „Wir werden das auch gegenüber JusProg anbringen“, schreibt er.
So hatten am gestrigen Donnerstag etwa diese sieben Seiten das Label „ab 18“:
- kosima-mannheim.de – Eine Anlaufstelle in Mannheim zur Förderung der sexuellen Gesundheit.
- heinfiete.de – Eine Anlaufstelle für die Gay Community in Hamburg rund um sexuelle Aufklärung und Safer Sex.
- hessen-ist-geil.de – Das Präventionsprojekt der Aidshilfen in Hessen.
- prep.jetzt – Eine Infoseite rund um PrEP, eine medikamentöse Schutzmethode für HIV-negative Menschen, um sich vor einer HIV-Ansteckung zu schützen
- wissen-verdoppeln.hiv – Eine Infoseite darüber, dass HIV unter Therapie nicht übertragbar ist.
- tht.org.uk – Die Website des Terrence Higgins Trust, nach eigenen Angaben die „führende britische Wohltätigkeitsorganisation für HIV und sexuelle Gesundheit“
- lfc-online.de – Die Website des Dachverbands der deutschsprachigen schwulen Fetischclubs. Zu den Zielen des Verbands gehören unter anderem Prävention im Bereich AIDS, Abbau von Diskriminierung und Verständnisförderung in Bezug auf Fetisch und SM.
Einen Tag später, am heutigen Freitag, hat sich bereits etwas geändert: Die Seite heinfiete.de hat das Label „ab 12“.
JusProg: „Äußerst wenige Ratingfehler“
Im Zuge unserer jüngsten Veröffentlichung hatte JusProg-Vorstand Stefan Schellenberg bereits Verbesserungen angekündigt. „Wir haben Ihr Testergebnis zum Anlass genommen, einige Verbesserungspotentiale bei uns zu identifizieren, die wir jetzt angehen werden“, schrieb Schellenberg. Man habe „in den letzten Tagen noch einmal intensiv öffentliche und öffentlich geförderte Webseiten sowie ungeförderte von Organisationen insbesondere aus Bayern händisch geprüft mit einem Schwerpunkt in den genannten sensiblen Themenfeldern, aber auch darüber hinaus“.
Bei dieser Prüfung von mehreren hundert Webseiten habe es „nur noch äußerst wenig Ratingfehler“ gegeben. Die evangelische Nachrichtenagentur epd verkündete am Mittwoch: „JusProg schaltet nach Kritik blockierte Seiten frei“. Wohlgemerkt: Das geschah, bevor die weiteren, augenscheinlichen Fälle von Overblocking auftauchten.
Von Außen lässt sich schwer beurteilen, ob fehlerhafte Alterseinstufungen bei JusProg selten oder häufig auftreten. Transparenz über die internen Abläufe ist bei JusProg eher nicht erwünscht. Auch auf direkte Nachfrage hin wollte uns der gemeinnützige Verein keinen Blick hinter die Kulissen gewähren. Bei JusProg verpasst eine Software Websites anhand von Stichworten automatisch Labels wie „ab 12“ oder „ab 16“ oder „ab 18“. Welche Worte das sind, ist jedoch geheim. Auch menschliche Prüfer*innen sichten zumindest einige Websites; der Verein möchte allerdings nicht verraten, wie viele es davon gibt.
IT-Sicherheitsforscherin: JusProg als „Zufallsgenerator“
Lilith Wittmann zweifelt an der Verlässlichkeit der Technologie. Die Entscheidungen der Filtersoftware erinnerten „manchmal eher an einen Zufallsgenerator“, schlussfolgert sie in ihrer Analyse. Wittmann hat die Programmierschnittstelle von JusProg genutzt und unter anderem mehrfach die Altersstufe von twitter.com abgefragt. Das Ergebnis war inkonsistent: „So wurde in etwa 50 Prozent der Fälle twitter.com als geeignet ab 6 Jahren und den übrigen 50 Prozent als geeignet ab 16 Jahren eingestuft“.
Bloß, wie lassen sich diese sprunghaften Einstufungen erklären? „Diese API-Antworten sind auch für uns nicht nachvollziehbar“, schrieb JusProg an Wittmann. Das ist zumindest ein Hinweis darauf, dass auch JusProg selbst nicht genau nachvollziehen kann, was der Filter tut.
Während sich JusProg in Sachen Transparenz gegenüber der Öffentlichkeit verschließt, nimmt der Verein zumindest per Online-Formular Hinweise entgegen, um den Filter besser zu machen. Wer also mithilfe des neuen Jugendschutz-Schutz-Programms weitere Websites mit fragwürdiger Alterseinstufung entdeckt, kann sie direkt an JusProg melden.
Auch wir freuen uns über weitere Hinweise auf Fälle von JusProg-Overblocking, insbesondere bei Aufklärungsseiten zu sensiblen Themen – gerne per E-Mail an sebastian[at]netzpolitik.org (Betreff: JusProg) oder als Kommentar unter diesem Artikel.
Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.
0 Commentaires