„Wir sind nur ein Werkzeuglieferant“, sagt der neue Besitzer der Gesichtersuchmaschine PimEyes, die sich auch für Stalking missbrauchen lässt. Die Verantwortung liege bei den Nutzer:innen. Eine bequeme Position, vor allem für ihn selbst.
Fünf Sekunden. Etwa so lange braucht man, um auf der Webseite PimEyes nach einem Gesicht zu suchen und Bilder aus allen Winkeln des Internets zu finden. Foto hochladen, zwei Haken bei Geschäftsbedingungen und Privacy Policy setzen, schon bekommt man eine Liste von möglichen Treffern angezeigt. Bilder, von denen die gesuchte Person selbst womöglich nichts wusste. Wenn das Internet ein Heuhaufen ist, in dem so manche Nadel nicht auffällt, dann ist PimEyes der Magnet, der sie findet.
So eine Technologie hat für eine Gesellschaft radikale Konsequenzen. Ob auf Demonstrationen, im Wartezimmer oder in der Dating-App: Die Zeit der Anonymität ist vorbei. Durch PimEyes liegen zwischen dem eigenen Gesicht und der dazu gehörigen Identität nur wenige Klicks. PimEyes verrät nicht direkt die Identität einer gesuchten Person, aber die von PimEyes entdeckten Websites können es. Um diese Links zu sehen, muss man PimEyes derzeit etwa 35 Euro im Monat zahlen.
Den Folgen solcher Suchmaschinen entgehen kann nur, wer in der Öffentlichkeit konsequent eine Sturmhaube trägt oder im Lauf des eigenen Lebens keinerlei Fotos und persönliche Informationen im Internet hinterlässt. Also fast niemand. Dass das keine theoretische Gefahr ist, zeigt auch unsere Recherche zu einem Telegram-Bot, über den vor allem Männer mit PimEyes fremden Frauen nachstellen.
Die Erzählung von der neutralen Technologie
Der neue Besitzer dieser Suchmaschine sieht das anders. PimEyes sei schließlich nur dazu gedacht, nach dem eigenen Gesicht zu suchen. Oder nach den Gesichtern von Personen, die dem zugestimmt haben, sagte Giorgi Gobronidze kürzlich im Interview mit der New York Times.
Gobronidze zeichnet darin ein Bild von PimEyes als Werkzeug für das Gute. Seine Suchmaschine könne Menschen dabei helfen den Überblick zu behalten über all das, was im Netz über sie herumliegt. Und die ethische Verantwortung, ganz klar, die sieht er bei den Nutzer:innen. „Es sollte in der Verantwortung der Person liegen, die es benutzt“, sagte er. „Wir sind nur ein Werkzeuglieferant.“
Diese Argumentation klingt erstaunlich vertraut. Sie ist wohl so alt wie der Handel mit Dingen, mit denen sich Menschen gegenseitig Schaden zufügen können. Demnach ist Technologie immer nur ein Werkzeug, moralisch und politisch neutral. Es kommt eben darauf an, wie man sie nutzt. Wenn Menschen sie für üble Zwecke verwenden, dann ist deswegen nicht das Werkzeug schlecht, sondern die Menschen. Nach wie vor liebt die Waffenlobby dieses Argument.
Auch Entwickler:innen neuer Technologien greifen mit Vorliebe darauf zurück. Zuletzt hörte man es etwa von einer Person, die sich im Netz Nikolay Chervonij nennt, und eine Open-Source-Software namens DeepFaceLab entwickelt. Mit diesem Programm wird ein großer Teil der im Netz kursierenden Deepfake-Pornografie erstellt. Die Gesichter von Frauen werden dazu ohne ihre Zustimmung in Pornoszenen montiert, das Ergebnis wirkt teils täuschend echt. „Wir zwingen niemanden zu gar nichts,“ sagte Chervonij im Interview mit Vice. „Wir entwickeln ein Werkzeug. Wie Menschen dieses Werkzeug nutzen, ist nicht in unserer Verantwortung.“
Wer sucht 25 Mal am Tag das eigene Gesicht?
Das ist eine bequeme Position, vor allem für Menschen, deren ganzes Geschäftsmodell darauf beruht, mit solchen Werkzeugen Geld zu verdienen. Menschen wie der neue PimEyes-Chef Gobronidze. Doch die Argumentation ist schwach. Denn schon bei einem oberflächlichen Blick fällt auf: Gobronidzes Suchmaschine betont inzwischen zwar an zahlreichen Stellen, dass PimEyes „nicht für die Überwachung anderer Personen gedacht“ sei. Gobronidze weist auch gerne darauf hin, dass PimEyes keine Stalker dulde und Suchanfragen überwache. Doch tut er zu wenig, um das auch durchzusetzen.
Der Konkurrent Clearview AI, der ebenfalls eine Gesichter-Suchmaschine betreibt, ist exklusiv für Strafverfolgungsbehörden zugänglich. PimEyes ist offen für alle, egal ob sie nur sich selbst recherchieren oder nach Gesichtern von Personen suchen, die das nicht wollen. Für einige eine Horrorvorstellung, PimEyes schreibt dagegen: „Wir glauben wirklich, dass es notwendig ist, die Gesichtserkennungstechnologie zu demokratisieren.“
Schlimmer noch: Die Abo-Modelle von PimEyes zielen offenkundig darauf ab, mehr als nur ein Gesicht zu suchen. Für rund 35 Euro im Monat kann man 25 Suchanfragen am Tag durchführen und drei „Alarme“ einrichten. Das sind automatische Hinweise für neue Suchergebnisse bei einem bestimmten Gesicht. Für rund 350 Euro gibt es unendlich viele Suchanfragen und 500 Alarme. Wer wirklich nur sein eigenes Gesicht suchen möchte, kann 500 Alarme wohl kaum gebrauchen.
PimEyes verdient auch Geld mit sogenannten „PROtect“-Abos. Für rund 90 Euro monatlich können Nutzer:innen damit gezielt Suchtreffer zu ihrem Gesicht überwachen und aus der Liste der PimEyes-Ergebnisse tilgen. PimEyes helfe auch dabei, Aufforderungen zur Löschung von Inhalten zu verfassen, damit die entsprechenden Seitenbetreiber die Fotos offline nehmen.
PimEyes schafft das Problem, das es selbst lösen will
Wer lieber nichts bezahlen möchte, kann PimEyes immerhin per Opt-out-Formular dazu auffordern, das eigene Gesicht vollständig aus den eigenen Suchergebnissen zu entfernen. Dafür muss man aber erst einmal wissen, dass es PimEyes gibt – und man muss PimEyes ein Foto von sich und eine geschwärzte Ausweiskopie schicken. Das ist eine hohe Hürde, gerade für jene Menschen, die mit ihren Bildern besonders vorsichtig umgehen möchten.
Das kostenlose Opt-out-Formular war Anfang des Jahres noch nicht so leicht auffindbar. Damals hatte die Softwareentwicklerin Cher Scarlett mittels PimEyes alte Nacktaufnahmen von sich entdeckt. Aufnahmen, die ihr zufolge ihren Missbrauch zeigen. Sie sah keine andere Möglichkeit als ein kostenpflichtiges Abo, um die Suchergebnisse von PimEyes zu entfernen, und bezeichnete das als „im Grunde Erpressung“.
Der Fall von Cher Scarlett zeigt: Das Problem, das PimEyes vorgibt zu lösen, wird durch PimEyes überhaupt erst erzeugt. Dass Aufnahmen sexualisierter Gewalt ohne Scarletts Wissen im Netz waren, ist schlimm genug. Doch immerhin waren sie bislang nicht einfach auffindbar. Das ist jetzt vorbei – wegen PimEyes.
Nicht jede Technik ist neutral
Die Technologie als reines Werkzeug, moralisch und politisch neutral: In der Technikphilosophie gilt diese These inzwischen als umstritten. Der Philosoph Boaz Miller bezeichnet sie als „verbreitete Plattitüde in der Öffentlichkeit und unter Tech-Entwickler:innen“, die sich allerdings hartnäckig halte. Miller regt an, die Technologie zu hinterfragen: Warum wurde sie genau so entworfen, warum genau so umgesetzt?
Ein Messer kann man tatsächlich sehr gut zum Kräuterhacken einsetzen, aber eben auch für einen Mord. Für eine Suchmaschine, die per Design die Anonymität von Menschen untergräbt und damit offen zu Missbrauch, Stalking und Gewalt einlädt, lässt sich so eine Sicht schwer aufrecht erhalten. Eine solche Technologie ist nicht bloß ein Werkzeug. Ihr plausibelster Nutzen ist, dass Menschen damit andere Menschen gegen ihren Willen aufspüren. Wenn der neue Besitzer von PimEyes etwas anderes behauptet, dann vor allem, um von seiner eigenen Verantwortung abzulenken.
Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.
0 Commentaires