Nachträgliche Änderungen bei der biometrischen Überwachung sorgen aktuell für Ärger bei EU-Abgeordneten, die bis zuletzt für eine Einschränkung gekämpft hatten. Wird das Gesetz in der nun vorliegenden Form verabschiedet, hätte dies dramatische Folgen.
Svenja Hahn gilt gemeinhin als geduldige Person, doch jetzt ist sie hörbar verärgert. Eine „Bedrohung für die Bürgerrechte“ sei das, was der Rat der EU zur biometrischen Identifikation vorgelegt habe. Es geht um nicht weniger als einen zentralen Streitpunkt der geplanten KI-Verordnung der EU: Dürfen Sicherheitsbehörden in Zukunft Menschen im öffentlichen Raum aus der Ferne identifizieren und massenhaft überwachen? Die Mitgliedstaaten wollen genau dieses Recht, die Abgeordneten des Europaparlaments, unter ihnen die Liberale Hahn, wollten das hingegen unbedingt verhindern. Eine Viertelmillion EU-Bürger:innen hatte ebenfalls ein Verbot gefordert.
37 Stunden dauerte der Verhandlungsmarathon zum Gesetz im vergangenen Dezember. Eine Tour-de-Force, die vor allem auf das Konto der spanischen Ratspräsidentschaft ging, die mit allen Mitteln eine Einigung herbeiführen wollte. Der Druck war enorm. Doch das Ergebnis, das die Verhandler:innen des Parlaments dachten erreicht zu haben, sollte sich schon eine Woche später als ein „Missverständnis“ herausstellen.
Da nämlich schickte die spanische Ratspräsidentschaft, die die Verhandlungen leitete, ihre schriftliche Version dessen, was sie als Resultat der mündlichen Einigung sah. Und die Abgeordneten fielen aus allen Wolken. „Wir wurden über den Tisch gezogen“, heißt es aus dem Umfeld der Verhandlungsdelegation.
Kompromiss zur biometrischen Überwachung war schon vorher faul
Schon der ursprüngliche Kompromiss, auf den sich die Verhandler:innen nach zähen Stunden mitten in der Nacht geeinigt hatten, war aus Sicht von Bürgerrechtler:innen eine Niederlage. In der Frage der „biometrischen Fernüberwachung“ konnten sich die Mitgliedstaaten mit ihren Forderungen weitgehend durchsetzen. Die Echtzeitüberwachung sollte demnach nicht kategorisch verboten werden, wie es das Parlament ursprünglich gefordert hatte. Stattdessen bleibt sie in Ausnahmefällen erlaubt, etwa bei der Suche nach vermissten Personen oder bei der „vorhersehbaren Gefahr eines Terroranschlags“.
Die Technologie, bei der Behörden Bilder aus ihren Datenbanken direkt mit Aufnahmen aus Überwachungskameras abgleichen, gilt als besonders gefährlich, weil sie faktisch einer Massenüberwachung des öffentlichen Raums gleichkommt.
Darüber hinaus hatte der Rat auch die Regeln für die nachträgliche biometrische Fernüberwachung aufgeweicht. Bei dieser Form dürfen Behörden gespeicherte Aufnahmen aus Überwachungskameras im Nachhinein durchsuchen, um darauf eine Person zu identifizieren. Auch diesen Einsatz wollte das Parlament ursprünglich auf die Liste der verbotenen Praktiken setzen. Durchsetzen konnten sich die Parlamentarier:innen damit nicht.
In der nun kursierenden Textfassung der Ratspräsidentschaft vom 22. Dezember ist von den Einschränkungen nicht mehr viel übrig. Sicherheitsbehörden hätten demnach weitgehend freie Fahrt bei der nachträglichen biometrischen Identifikation. Eine Liste mit besonders schweren Straftatbeständen, die den Einsatz eingeschränkt hätte, ist aus dem Entwurfsdokument verschwunden. Stattdessen steht dort nur noch, dass ein solches System nicht eingesetzt werden darf, „ohne dass ein Zusammenhang mit einer Straftat, einem Strafverfahren oder der Verhütung einer tatsächlichen und gegenwärtigen oder tatsächlichen und vorhersehbaren Gefahr einer Straftat“ besteht.
„Vorhersehbare Gefahr einer Straftat“ reicht aus, um Aufnahmen nachträglich zu durchsuchen
Eine solche schwammige Formulierung kann katastrophale Auswirkungen haben, warnt Ella Jakubowskas von der Bürgerrechtsorganisation EDRi. Etwa für Frauen, die in den EU-Staaten Malta oder Polen eine Schwangerschaft beenden wollen. Sollte die Formulierung in der jetzigen Fassung Gesetz werden, wäre bereits die Möglichkeit einer Abtreibung, also beispielsweise die Existenz einer Klinik, ausreichend, um die nachträgliche Fernüberwachung zu rechtfertigen.
Auch in Deutschland hätte das konkrete Auswirkungen. Nach dem G20-Gipfel im Jahr 2017 nutzte die Hamburger Polizei eine Gesichtserkennungssoftware, um Teilnehmer:innen der Demonstration nachträglich auf Bildern und Videos ausfindig zu machen. Seit vier Jahren läuft dazu ein Rechtsstreit zwischen Polizei und der Hamburger Datenschutzbehörde. Mit der jetzigen Fassung der Verordnung wäre diese Praxis legal, warnt Jakubowska.
„Natürlich gibt es immer noch das bestehende Datenschutzgesetz, wonach die polizeiliche Verarbeitung biometrischer Daten erforderlich sein muss“, sagt Jakubowska. „Unsere Befürchtung ist jedoch, dass der AI Act, der besagt, dass die nachträgliche biometrische Fernidentifizierung für jedes Verbrechen verwendet werden kann, die Interpretation dessen, was genau als ’notwendig‘ gilt, aufweichen könnte.“
Generell könnten Behörden mit diesem Text die nachträgliche biometrische Überwachung von Demonstrationen rechtfertigen – wenn dort Straftaten verübt wurden oder auch nur „vorhersehbar“ und damit zu erwarten seien. Selbst ein banaler Ladendiebstahl oder die illegale Übernachtung in Park würde die Maßnahme bereits rechtfertigen. „Alles in allem ist die Einigung eine Menschenrechtskatastrophe in Bezug auf die biometrische Überwachung“, so Jakubowska.
Zur „Erstidentifikation“ braucht es nicht mal eine Genehmigung
Der Text sieht noch weitere Ausnahmen vor, etwa bei der Genehmigung des Einsatzes von biometrischer Videoüberwachung. Im Zweifel können Behörden mit der Überwachung beginnen und sich dafür noch bis zu 48 Stunden danach eine Erlaubnis holen. Dient die Überwachung lediglich zur „ersten Identifizierung eines potenziellen Straftäters“, bedarf es gar keiner Genehmigung. Was „erste Identifikation“ in diesem Zusammenhang bedeuten soll, ist unklar.
Svenja Hahn, die als Schattenberichterstatterin für die liberale Fraktion Renew an den Verhandlungen beteiligt war, fürchtet außerdem, dass mit dem Text der Ratspräsidentschaft nun noch weitere Türen zur Echtzeitüberwachung geöffnet werden. Denn wie lange muss eine Behörde warten, damit die Auswertung als nachträglich gilt? Reichen dafür schon wenige Minuten? Es sei im jetzigen Entwurf völlig unklar, „ab wann eine biometrische Identifizierung nicht mehr als ‚Echtzeit‘, sondern als ’nachgelagert‘ gilt“.
In einer Nachricht an ihre Fraktion nach dem Verhandlungsmarathon Anfang Dezember hatten Hahn und der Berichterstatter Dragoș Tudorache, ebenfalls Renew, die Einigung noch als Erfolg gefeiert. Man habe es geschafft, das Schlimmste zu verhindern.
Beobachter:innen aus der Zivilgesellschaft waren damals schon wesentlich verhaltener. So schrieb etwa Sarah Chander, Senior Policy Advisor bei EDRi, es gelte nun den finalen Text zu prüfen. „Wir werden sehen, inwieweit die Kompromisse in der Praxis wirklich funktionieren, um den Schaden von diskriminierender und massenhafter Überwachung zu verhindern und abzuschwächen.“
Ella Jakubowska wird nun noch deutlicher: Die Einigung würde das Bekenntnis des Parlaments zum Verbot der biometrischen Massenüberwachung „verraten“. „Stattdessen wird nun eine Reihe von schwachen Regeln und Schutzmaßnahmen wahrscheinlich den Einsatz biometrischer Überwachungssysteme in der EU fördern.“ Das würde indirekt auch autoritären Regimen auf der ganzen Welt einen Freibrief ausstellen.
Ausnahmen für die „nationale Sicherheit“
Noch finden weitere Treffen auf technischer Ebene statt. Die sogenannten Erwägungsgründe zu einzelnen Artikeln werden erst in den nächsten Tagen ausformuliert. Doch dass sich an der Formulierung der Artikel selbst, auf die es im Zweifelsfall ankommt, noch etwas drehen lässt, halten Eingeweihte für sehr unwahrscheinlich. Bereits vor Ende des Monats soll der finale Text stehen, er könnte dann bereit im Februar im EU-Parlament abgestimmt werden.
Schlupflöcher weist der Text auch noch an vielen anderen Stellen auf, etwa in der Frage der „nationalen Sicherheit“. Hier hatte vor allem die französische Regierung umfassende Ausnahmeregelungen gefordert. Würden sie kommen, könnten EU-Staaten mit Verweis auf die „nationale Sicherheit“ gefährliche KI-Systeme einsetzen – auch eigentlich verbotene Praktiken wie biometrische Massenüberwachung und Social Scoring. Auch hier gilt: Welche Lücken am Ende bestehen, wird erst der finale Text zeigen.
Der geänderte Artikel 29 in Volltext:
Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS
2021/0106(COD)
DRAFT [Outcome of 22 December]
Article 29
6a. Without prejudice to Directive (EU) 2016/680, in the framework of an investigation for the targeted search of a person convicted or suspected of having committed a criminal offence, the deployer of an AI system for post-remote biometric identification shall request an authorisation, prior, or without undue delay and no later than 48hours, by a judicial authority or an administrative authority whose decision is binding and subject to judicial review, for the use of the system, except when the system is used for the initial identification of a potential suspect based on objective and verifiable facts directly linked to the offence. Each use shall be limited to what is strictly necessary for the investigation of a specific criminal offence.
If the requested authorisation provided for in the first subparagraph of this paragraph is rejected, the use of the post remote biometric identification system linked to that authorisation shall be stopped with immediate effect and the personal data linked to the use of the system for which the authorisation was requested shall be deleted.
In any case, such AI system for post remote biometric identification shall not be used for law enforcement purposes in an untargeted way, without any link to a criminal offence, a criminal proceeding, a genuine and present or genuine and foreseeable threat of a criminal offence or the search for a specific missing person.
It shall be ensured that no decision that produces an adverse legal effect on a person may be taken by the law enforcement authorities solely based on the output of these post remote biometric identification systems.
This paragraph is without prejudice to the provisions of Article 10 of the Directive (EU) 2016/680 and Article 9 of the GDPR for the processing of biometric data.
Regardless of the purpose or deployer, each use of these systems shall be documented in the relevant police file and shall be made available to the relevant market surveillance authority and the national data protection authority upon request, excluding the disclosure of sensitive operational data related to law enforcement. This subparagraph shall be without prejudice to the powers conferred by the Directive 2016/680 to supervisory authorities.
Deployers shall, in addition, submit annual reports to the relevant market surveillance and national data protection authorities on the uses of post-remote biometric identification systems, excluding the disclosure of sensitive operational data related to law enforcement. The reports can be aggregated to cover several deployments in one operation.
Member States may introduce, in accordance with Union law, more restrictive laws on the use of post remote biometric identification systems.
6a Recitals:
(XX) Each supervisory authority [under Art. 63(5)] should have effective investigative and corrective powers, including at least the power to obtain access to all personal data that are being processed and to all information necessary for the performance of its tasks. The supervisory authorities should be able to exercise their powers by acting with complete independence. Any limitations of their access to sensitive operational data under this Regulation should be without prejudice to the powers conferred to them by Directive 2016/680. No exclusion on disclosing data to national data protection authorities under this Regulation should affect the current or future powers of those authorities beyond the scope of this Regulation.
(XY) Any processing of biometric data involved in the use of AI systems for biometric identification for the purpose of law enforcement needs to comply with Article 10 of Directive (EU) 2016/680, that allows such processing only where strictly necessary, subject to appropriate safeguards for the rights and freedoms of the data subject, and where authorised by Union or Member State law. Such use, when authorized, also needs to respect the principles laid down in Article 4 paragraph 1 of Directive (EU) 2016/680 including lawfulness, fairness and transparency, purpose limitation, accuracy and storage limitation
(YY) Without prejudice to applicable Union law, notably the GDPR and Directive (EU) 2016/680 (the Law Enforcement Directive), considering the intrusive nature of post remote biometric identification systems, the use of post remote biometric identification systems shall be subject to safeguards. Post biometric identification systems should always be used in a way that is proportionate, legitimate and strictly necessary, and thus targeted, in terms of the individuals to be identified, the location, temporal scope and based on a closed dataset of legally acquired video footage. In any case, post remote biometric identification systems should not be used in the framework of law enforcement to amount to indiscriminate surveillance. The conditions for post remote biometric identification should in any case not provide a basis to circumvent the conditions of the prohibition and strict exceptions for real time remote biometric identification.
Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.
0 Commentaires