Ein neuer Gesetzesvorschlag der Europäischen Kommission soll biometrische Überwachung an öffentlichen Orten weitgehend verhindern, dabei gibt es aber einige Ausnahmen. Bei der re:publica – Konferenz verteidigte Kommissions-Vizepräsidentin Margrethe Vestager den Vorschlag aus ihrem Haus. „Der Punkt dabei ist zu sagen, nein, wir wollen keine Massenüberwachung, die uns in Echtzeit identifizieren kann“, sagte Vestager in einer Diskussionsrunde mit Geraldine de Bastion und Julia Kloiber.
Der Kommissionsvorschlag soll verschiedene Risikostufen für Künstliche Intelligenz schaffen, besonders risikoreiche Anwendungen sollen dabei verboten oder unter Erlaubnisvorbehalt gestellt werden. Biometrische Videoüberwachung an öffentlichen Orten soll nach dem Vorschlag der EU-Behörde wegen ihrer Risiken für den Grundrechteschutz grundsätzlich verboten werden, allerdings bleibe der Einsatz solcher Technologien in „wenigen, eng definierten Ausnahmefällen“ erlaubt.
Als Beispiel dafür nannte Vestager die Suche nach vermissten Kindern, Terrorverdächtigen oder wegen Straftaten, die gemeinsam von den EU-Staaten im Europäischen Haftbefehl festgelegt wurden. NGOs hatten die Vorschläge der Kommission aus menschenrechtlicher Sicht für ungenügend kritisiert. In den kommenden Monaten sollen auch der Rat der EU-Staaten und das Parlament eine eigene Position festlegen, bevor sie gemeinsam über einen endgültigen Gesetzesentwurf verhandeln.
Im Rahmen der re:publica betonte Vestager, es gebe ein enormes Bewusstsein der Dringlichkeit, solche Technologien auf humane Art einzusetzen und Menschen „nicht zum Produkt“ zu machen. Biometrische Identifikation könne bei Anwendungen wie der Grenzkontrolle oder des Entsperren von Handys nützlich sein, aber die Privatsphäre müsse gewahrt bleiben. „Europa ist kein Kontinent der Massenüberwachung“, sagte Vestager.
Social Scoring „nicht die Rolle des Staates“
Ein explizites Verbot soll es nach dem Vorschlag der Kommission auch für sogenanntes Social Scoring geben, bei dem Algorithmen umfassend Daten über das Verhalten von Menschen sammeln und sie darauf basierend bewerten und sanktionieren. Solche Systeme sollen in China bereits getestet werden. Solche Systeme dürfe es in Europa nicht geben, betonte Vestager: „Das ist nicht die Rolle des Staates“.
Allerdings sieht die dänische EU-Kommissarin durchaus Szenarien, in denen soziale Bewertungssysteme legitim sein können. Als Beispiel nannte sie eine Versicherungsgesellschaft in Dänemark, die günstigere Autoversicherungen für Fahrer*innen anbietet, die einer Überprüfung ihres Fahrstils durch eine App zustimmen. Wo es eine direkte Verbindung zwischen gesammelten Daten und Bewertung gebe, sei das akzeptabel.
Hilf mit! Mit Deiner finanziellen Hilfe unterstützt Du unabhängigen Journalismus.
0 Commentaires