KI und Ge­flüchtete: Werkzeug oder Waffe?

Kaum jemand ist KI so unmittelbar ausgeliefert wie Geflüchtete – und kaum jemand hat so wenig Einfluss darauf, wie diese Systeme gebaut werden. Das ist kein Zufall. Es ist die Logik von Machtverhältnissen, in denen Technologie immer zuerst an denen erprobt wird, die sich am wenigsten dagegen wehren können.

Was hier passiert, ist dokumentiert. Das UNHCR registriert biometrische Daten von über 37 Millionen Menschen in einem System, dessen Datenschutzstandards nicht dem entsprechen, was europäische Bürger:innen für sich selbst beanspruchen würden. Das BAMF analysiert Dialekte per Algorithmus, um Herkunftsangaben zu überprüfen – als erste Asylbehörde der Welt. Und gängige KI-Übersetzungstools produzieren nachweislich Fehler, die in Asylverfahren zu falschen Bescheiden führen.

Dieser Artikel schaut auf das, was sich belegen lässt – nicht auf Versprechen, nicht auf Worst-Case-Fantasien.

Biometriedaten und die Frage der Kontrolle

Das Biometric Identity Management System (BIMS) des UNHCR speichert Iris-Scans, Fingerabdrücke und Gesichtsbilder von mehr als 37 Millionen Geflüchteten weltweit. Das erklärte Ziel ist plausibel: Identitätssicherung, Schutz vor Doppelregistrierung, geordnete Hilfsmittelverteilung.

Was 2021 bekannt wurde, war ein anderes Bild. Human Rights Watch dokumentierte, dass das UNHCR Daten aus dem BIMS an die Regierung Myanmars weitergegeben hatte – ohne informierte Einwilligung der betroffenen Rohingya. Myanmar ist das Land, aus dem sie geflohen waren. Die Menschen, die in dieser Datenbank stehen, hatten sie nicht selbst dort eingetragen – und sie hatten keinen echten Einfluss darauf, was danach damit passiert.

Das ist keine Geschichte über eine schlechte Einzelentscheidung. Es ist eine Geschichte über Strukturen: Wer schutzbedürftig ist, hat weniger Verhandlungsmacht, weniger rechtliche Mittel, weniger öffentliche Stimme. Diese Menschen werden zur bevorzugten Testgruppe für Systeme, die an anderen Bevölkerungsgruppen auf erheblicheren Widerstand stoßen würden.

Das BAMF und die automatisierte Stimmanalyse

Seit 2019 ist Deutschland das einzige Land der Welt, in dem eine Asylbehörde routinemäßig automatische Dialekterkennung einsetzt. Das BAMF nutzt eine Lösung des Fraunhofer-Instituts, die aus Audioaufnahmen von Anhörungen die Herkunftsregion einer Person bestimmen soll – wenn Identitätsdokumente fehlen oder in Frage gestellt werden. Im Juli 2022 wurde das System auf Farsi, Dari und Paschtu ausgeweitet. Laut einer Antwort der Bundesregierung auf eine Parlamentsanfrage wurde das Tool allein in 2022 in 29.632 Fällen eingesetzt – das sind mehr als 80 Verfahren täglich, in denen ein Algorithmus mitbestimmt, ob eine Herkunftsangabe glaubwürdig klingt.

AlgorithmWatch hat wiederholt auf die grundsätzliche Problematik hingewiesen: Dialekt ist kein verlässlicher Herkunftsnachweis. Menschen wachsen mehrsprachig auf, leben jahrelang im Exil, sprechen Mischformen, passen ihre Sprache an Kontext und Publikum an. Eine unabhängige Prüfung der Fehlerquoten ist bis heute nicht öffentlich zugänglich – obwohl die Ergebnisse in Verfahren einfließen, die über Schutz oder Abschiebung entscheiden.

Wenn eine Übersetzung über Asyl entscheidet

Eine Untersuchung von Rest of World aus dem Jahr 2023 hat dokumentiert, was passiert, wenn KI-gestützte Übersetzungstools in Asylanhörungen eingesetzt werden: Pronomen werden verwechselt, Verneinungen ausgelassen, kulturspezifische Formulierungen falsch übertragen. Aus „ich wurde verfolgt" wird „wir wurden verfolgt". Das klingt wie ein technisches Detail. In einem Asylverfahren kann es bedeuten, dass eine persönliche Verfolgungsgeschichte wie eine einstudierte Gruppenerzählung wirkt. Über 40 Prozent der untersuchten Afghanistan-Fälle zeigten solche Übersetzungsprobleme.

Das Paradoxe daran: KI-Übersetzung wird gerade deshalb eingesetzt, weil qualifizierte Dolmetscher:innen für seltene Dialekte kaum verfügbar und teuer sind. Die Einsparung passiert an genau der Stelle, an der Fehler die gravierendsten Folgen haben.

Der EU AI Act – und seine bewussten Lücken

Ab August 2026 gilt der EU AI Act in wesentlichen Teilen. KI-Systeme im Bereich Migration, Asyl und Grenzkontrolle sind explizit als Hochrisikosysteme eingestuft (Anhang III) – mit Transparenzpflichten, Risikofolgenabschätzungen, vorgeschriebener menschlicher Aufsicht.

PICUM und Access Now haben den Gesetzgebungsprozess begleitet und kommen zu einem nüchternen Ergebnis: Grenzzonen sind in bestimmten Konstellationen von Schutzpflichten ausgenommen. Emotionserkennung im Migrationskontext – das automatisierte Auswerten von Gesichtsausdrücken auf Glaubwürdigkeit – wird anders behandelt als in anderen gesellschaftlichen Bereichen. Ein Gutachten des wissenschaftlichen Diensts des Europäischen Parlaments, das Netzpolitik.org 2025 aufgegriffen hat, warnt ausdrücklich vor erheblichen Risiken. Die Schutzregelungen greifen vollständig erst ab Dezember 2027.

Diese Lücken sind nicht das Ergebnis schlechter Gesetzgebungstechnik. Sie sind das Ergebnis von Interessenabwägungen – und von der Frage, wessen Interessen in einem Gesetzgebungsprozess strukturell unterrepräsentiert sind.

Was funktioniert – und unter welchen Bedingungen

Das alles bedeutet nicht, dass KI in der Arbeit mit Geflüchteten nur Schaden anrichtet. Es gibt reale Projekte mit belegbaren Effekten. Das International Rescue Committee hat in Jordanien ein adaptiv gesteuertes Programm zur Arbeitsmarkt­integration syrischer Geflüchteter erprobt; eine Feldstudie von Caria u. a. (2024, Journal of the European Economic Association) beziffert den Effekt vorsichtig: Die algorithmische Steuerung der Maßnahmen erhöhte die Beschäftigungsquote um rund einen Prozentpunkt – etwa 20 Prozent gegenüber der Standardbehandlung – bei ausdrücklicher Einbettung in menschliche Beratung, nicht als Ersatz dafür. Das UNHCR setzt mit Project Jetson KI-gestützte Frühwarnsysteme für Vertreibungsbewegungen ein. Auch im Gesundheitsbereich werden KI-Anwendungen erprobt, wo strukturell zu wenig Fachpersonal verfügbar ist – Chancen wie Risiken solcher Anwendungen wägt eine kritische Bestandsaufnahme in The Lancet Regional Health – Europe (2025) ausdrücklich gegeneinander ab. Und die Caritas erprobt mit dem KIESA-Projekt KI-gestützte Vereinfachung von Beratungstexten in Einfache Sprache für die inklusive Onlineberatung – wer schon mal versucht hat, deutsches Amtsdeutsch ohne Sprachkenntnisse zu entschlüsseln, versteht, warum verständliche Sprache zählt.

Was diese Projekte gemeinsam haben: Sie ergänzen Menschen, sie ersetzen sie nicht. Und sie entstehen im Kontext von Organisationen, die Rechenschaft schulden – nicht im Kontext von Behörden, die Kontrolle ausüben.

Was das für NGOs bedeutet

Wer mit Geflüchteten arbeitet, sollte KI-Übersetzungen als das behandeln, was sie sind: Arbeitsgrundlage, kein Ergebnis. Nicht als abstrakte Vorsicht – sondern weil dokumentierte Fehler in Dari, Paschtu und anderen Sprachen existieren, und weil ein Fehler im Asylverfahren eine andere Qualität hat als ein Fehler in einer Touristik-App.

Gleichzeitig lohnt es, zu verstehen, welche automatisierten Systeme in den Verfahren der eigenen Klient:innen überhaupt vorkommen. Das BAMF setzt Dialekterkennung ein. Es gibt Grenzbehörden, die KI-gestützte Risikoeinschätzungen nutzen. Diese Systeme sind keine Staatsgeheimnisse – aber sie werden auch nicht aktiv kommuniziert. Der EU AI Act schafft ab 2027 formale Auskunftsrechte über Hochrisiko-KI-Systeme. Diese Rechte können nur eingefordert werden, wenn jemand weiß, dass es sie gibt.

Und dann ist da die Frage, was man mit diesem Wissen macht. Die Arbeit von AlgorithmWatch, PICUM und dem Informationszentrum Dritte Welt schafft die öffentliche Grundlage, auf der Regulierung entsteht und Betroffene klagen können. Wer diese Arbeit kennt, zitiert und sichtbar macht, betreibt keine abstrakte Solidarität – sondern trägt dazu bei, dass die nächste Verordnung mehr Lücken schließt als die aktuelle.

Fazit

KI in der Arbeit mit Geflüchteten ist keine Zukunftsfrage. Sie ist Gegenwart – in den Biometriedatenbanken des UNHCR, in den Anhörungsräumen des BAMF, in den Übersetzungstools von Beratungsstellen und in den Entscheidungssystemen europäischer Grenzbehörden.

Die Frage ist nicht ob – die Frage ist immer: Wer kontrolliert diese Systeme? Wessen Fehler werden dokumentiert und wessen nicht? Und wer trägt die Konsequenzen, wenn ein Algorithmus falsch liegt?