In einer gemeinsamen Stellungnahme fordern der Europäische Datenschutzbeauftragte (EDPS) und der Europäische Datenschutzausschuss (EDPB) ein generelles Verbot des Einsatzes von künstlicher Intelligenz für die automatisierte Erkennung menschlicher Merkmale in öffentlich zugänglichen Räumen. Zu den Überwachungstechnologien zählt die Erkennung von Gesichtern, des menschlichen Gangs, von Fingerabdrücken, der DNA, der Stimme, des Tastenanschlags und anderer biometrischer oder verhaltensbezogener Signale.
Der EDPS und der EDPB fordern eine Verschärfung des EU-Gesetzentwurfs zur Regulierung Künstlicher Intelligenz (KI). In der Stellungnahme nennen die beiden Institutionen auf Ebene der Europäischen Union gleich mehrere Fälle, für die sie ein ausdrückliches Verbot der automatisierten Entscheidungssysteme fordern.
Neben der KI-gestützten Erfassung menschlicher Merkmale im öffentlichen Raum sollen KI-Systeme, die Menschen mittels biometrischer Daten in Gruppen einteilen und so nach ethnischer Zugehörigkeit, Geschlecht, politischer oder sexueller Orientierung einteilen, ebenfalls grundsätzlich verboten werden. Auch künstliche Intelligenz, die Social Scoring ermöglicht, haben die Datenschützer:innen im Visier. Mit Ausnahme von einzelnen Anwendungen im medizinischen Bereich fordern EDPS und der EDPB außerdem ein Verbot von KI zur Gefühlserkennung.
Schutz der Anonymität im öffentlichen Raum
Im Europäischen Datenschutzausschuss sitzt auch Ulrich Kelber, der Bundesbeauftragte für Datenschutz und Informationsfreiheit in Deutschland. „Wir wollen keine KI im grundrechtlichen Graubereich“, begründete er die Forderungen. Daher setze er sich für ein Verbot von KI ein, „die einem freiheitlich-demokratischen Grundverständnis zuwider läuft.“
„Der Einsatz von biometrischer Fernidentifikation in öffentlich zugänglichen Räumen bedeutet das Ende der Anonymität an diesen Orten“, sagen Andrea Jelinek, Vorsitzende des EDPB und Wojciech Wiewiórowski vom EDPS. „Anwendungen wie die Live-Gesichtserkennung greifen in die Grundrechte und -freiheiten in einem solchen Ausmaß ein, dass sie das Wesen dieser Rechte und Freiheiten in Frage stellen können.“
Ein generelles Verbot des Einsatzes von Gesichtserkennung in öffentlich zugänglichen Bereichen sei der notwendige Ausgangspunkt, wenn wir unsere Freiheiten bewahren und einen menschenzentrierten Rechtsrahmen für KI schaffen wollten, so die Datenschützer:innen weiter.
Die EU-Kommission hatte im April einen ersten Gesetzentwurf zur Regulierung von KI-Anwendungen vorgelegt. Den Bereich der internationalen Zusammenarbeit in der Strafverfolgung hatte der Entwurf explizit ausgeklammert. Darüber sind EDPS und EDPB „besorgt“, heißt es in der Stellungnahme.
Stärkere Orientierung an geltenden Datenschutzregeln
Dass die EU sich grundsätzlich der Thematik widmet, begrüßen die Datenschutzbehörden. Der Entwurf basiert auf einer Einteilung verschiedener KI-Anwendungen in verschiedene Risikotypen, die dann je nach Höhe des Risikos auf Grundrechte unterschiedlich stark reguliert werden sollen. Grundsätzlich befürworten die EU-Datenschützer:innen diesen Ansatz. Sie fordern jedoch, dass dieses Risiko auf Grundrechte an den EU-Datenschutzrahmen angepasst werden sollte.
Das Gesetz müsse außerdem stärker betonen, dass es bereits geltende Regeln für den Einsatz von KI durch die Datenschutzgrundverordnung (DSGVO) und andere EU-Datenschutzvorschriften gibt. Wenn automatisierte Entscheidungssysteme personenbezogene Daten verarbeiten, gelte schließlich die DSGVO.
Die Kommission plant, dass nationale Datenschutzbehörden zuständige Aufsichtsbehörden für die Anwendung der neuen Verordnung werden sollen. Auch diesen Vorschlag befürworten EDPS und EDPB. Allerdings will die Kommission auch sich selbst eine wichtige Rolle im „European Artificial Intelligence Board“ zuschreiben. „Das widerspricht dem Bedürfnis eines europäischen KI-Gremiums, das unabhängig von politischem Einfluss ist“, so die Datenschützer:innen. Sie verlangen, dass das Gremium mehr Autonomie bekommen soll, damit es aus eigener Initiative handeln kann.
Weltweit Widerspruch gegen biometrische Überwachung
Gegen den Einsatz biometrischer Überwachungssysteme regt sich weltweit Widerstand. Über 175 namhafte zivilgesellschaftliche Organisationen, Wissenschaftler:innen und Aktivist:innen forderten zuletzt in einem offenen Brief ein weltweites Verbot von biometrischer Überwachung im öffentlichen Raum.
Die Kritik ist dabei ähnlich wie die der EU-Datenschützer:innen. So heißt es in der Erklärung: „Einige Überwachungstechnologien sind so gefährlich, dass sie unweigerlich weit mehr Probleme verursachen, als sie lösen. Der Einsatz von Gesichtserkennung und biometrischen Technologien in öffentlich zugänglichen Räumen ermöglicht Massenüberwachung und diskriminierende gezielte Überwachung“, heißt es in der Erklärung. Das Missbrauchspotenzial dieser Technologien sei zu groß und die Folgen zu schwerwiegend.
Hilf mit! Mit Deiner finanziellen Hilfe unterstützt Du unabhängigen Journalismus.
0 Commentaires