Das BAMF nutzt ein automatisiertes System, um Informationen aus Asylanhörungen aufzuspüren, die für Sicherheitsbehörden interessant sein könnten. 18 Millionen Euro kostete das Projekt. Die Geflüchteten erfahren nicht, dass eine KI ihre Aussagen rastert.
Viele Menschen fliehen nach Deutschland, weil in ihrem Herkunftsland Krieg und Gewalt herrschen oder Menschenrechtsverletzungen an der Tagesordnung sind. Manche von ihnen sind Opfer oder Zeug:innen von Kriegsverbrechen geworden. Andere haben erlebt, wie Terror-Organisationen agieren. Das interessiert teilweise auch deutsche Behörden, daher muss das Bundesamt für Migration und Flüchtlinge ihnen sicherheitsrelevante Informationen weiterleiten, wenn es von solchen erfährt. Etwa dem Bundeskriminalamt, wenn es um Gefahren für Deutschland geht – oder dem Verfassungsschutz.
Wenn also Geflüchtete in ihrer Asylanhörung etwas berichten, das von Interesse sein kann, soll sich das BAMF bei den entsprechenden Behörden melden – egal, ob die Personen selbst eine potenzielle Sicherheitsbedrohung sein könnten oder ob sie dazu nur Informationen geliefert haben.
Diesen Datenaustausch gibt es schon länger, ab dem Jahr 2015 ist er aber intensiver geworden. Leitete die Asylbehörde damals noch gut 500 Fälle im Jahr an den Bundesverfassungsschutz weiter, waren es zwei Jahre später bereits über 10.000 Hinweise. Um „den gesetzlichen Meldeverpflichtungen des BAMF an Sicherheitsbehörden leichter und schneller nachkommen zu können“, startete das BAMF 2017 zusätzlich ein weiteres Projekt: im Amtsdeutsch heißt es „Assistenzsystem für Sicherheitsmeldungen“ (ASS).
Meldung per Mail
Es soll automatisiert mit sogenannter Künstlicher Intelligenz den Text von Anhörungsprotokollen scannen und Mitarbeitende des BAMF „per E-Mail darauf aufmerksam [machen], falls eine potentiell sicherheitsrelevante Information in einer Asylanhörung identifiziert wurde“. Das antwortet die Bundesregierung auf eine Kleine Anfrage der Linken-Abgeordneten Clara Bünger. Am Ende bewerten die Sachbearbeitenden die markierte Information und melden zurück, ob sie diese für hilfreich und melderelevant halten.
Die verantwortliche Stelle für die Zusammenarbeit mit den Sicherheitsbehörden prüft das nochmal und leitet die Meldung dann weiter – aber nur, wenn sie ebenfalls die Relevanz sieht. Dieser zweistufige Prozess wirke auch „blindem Vertrauen in KI entgegen“, schreibt die Bundesregierung.
Ursprünglich gestartet als Pilotprojekt, ist das System „seit 2022 im produktiven Einsatz und wird derzeit in allen Außenstellen des BAMF ausgerollt“. Während der Projektlaufzeit von 2017 bis 2022 betrugen die Kosten etwa 18 Millionen Euro, teilte das BAMF auf Anfrage im September mit. Das System soll bei allen Arten von Asylanhörungen genutzt werden. Es beschränkt sich also nicht auf Fälle, bei denen besonders relevante Hinweise zu erwarten sind, etwa weil Geflüchtete aus akuten Krisenherden kommen. Wie gut das System funktioniert, ist aber offenbar unklar – man erfasse keine Fehler- und Erkenntnisquoten.
Was ist relevant?
Auch was genau das BAMF als relevant ansieht, bleibt in der Antwort vage. Klar wird, die Behörden interessieren nicht „nur potentielle Täter, sondern auch Opfer, Zeugen und sonstige Beweismittel“, wenn es um schwere und organisierte Kriminalität, Staatsschutzdelikte und Völkerstrafrecht geht. Doch ebenso schreibt die Bundesregierung: „Melderelevant sind darüber hinaus Sachverhalte, an denen die Nachrichtendienste des Bundes ein Erkenntnisinteresse haben.“ Das kann vieles bedeuten. Bei einer Anhörung im Bundestag behauptete eine Mitarbeiterin des BND etwa mal, der Geheimdienst interessiere sich auch für den Brotpreis in Aleppo.
„Hier wäre eine engere Eingrenzung erforderlich“, schreibt Fragestellerin Bünger. „Im Grundsatz muss sich das BAMF auf seine Kernaufgabe konzentrieren, also den Schutzbedarf von Asylsuchenden prüfen. Es darf nicht zum Datenlieferanten der Geheimdienste werden.“
Doch wie funktioniert die Relevanzerkennung überhaupt? Zunächst würden „semantische Regelungen sowie meldekriterienspezifische Wörterbücher“ genutzt, schreibt die Bundesregierung. Schlägt eine Textstelle an, kommt auch der Kontext ins Spiel. „In der zweiten Stufe werden die Textfenster durch meldekriterienspezifische KI-Modelle binär klassifiziert“ – also in relevant oder nicht relevant eingeteilt. Trainiert wurden die Modelle mit 50.000 anonymisierten Textausschnitten aus früheren Anhörungen.
Zu mehr Meldungen an die Sicherheitsbehörden hat das System offenbar nicht geführt, die Anzahl der Hinweise ging zurück. Waren es 2018 noch 14.769 Meldungen, sank die Zahl danach zunächst. Nach einem Tiefstand von 6.274 im Jahr 2021 waren es in diesem Jahr bis Ende September wieder 7.225 Meldungen. Die Aussagekraft der reinen Zahlen ist begrenzt, die tatsächliche Relevanz der weitergeleiteten Information lässt sich darauf nicht bemessen.
Antragstellende wissen nichts von der KI
Dass ihre Anhörungen von sogenannter Künstlicher Intelligenz gerastert werden, merken die Antragsteller:innen in der Regel nicht, es gibt keine speziellen Hinweise darauf vor der Anhörung. Ob ihnen bewusst ist, dass ihre Aussagen beim BAMF bei deutschen Geheimdiensten landen können? Sie würden belehrt, dass „in Asylanhörungen gemachte Angaben an Sicherheitsbehörden weitergegeben werden können“, sagt die Bundesregierung.
Bünger bewertet das als „bedenklichen Eingriff in das Recht auf informationelle Selbstbestimmung“. Geflüchtete müssten in der Asylanhörung oftmals sehr persönliche Informationen preisgeben. „Zugleich haben sie wenig bis keine Kontrolle darüber, was anschließend mit ihren Daten passiert.“
Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.
0 Commentaires