ChatGPT prüft Asylgeschichten – und macht Fehler

Künstliche Intelligenz soll britischen Behörden helfen, Asylanträge schneller zu bearbeiten. Doch die Technik macht Fehler: Bei einer fachlichen Prüfung fielen 45 von 203 KI-generierten Zusammenfassungen von Asylanhörungen durch – mehr als jede fünfte. Weitere 19 wurden zur Nachprüfung markiert. Besonders brisant: Selbst wenn wichtige Angaben fehlen, kann eine Zusammenfassung die Qualitätsprüfung unter Umständen bestehen.

Die Zahlen stammen aus einer aktuellen Untersuchung der britischen Bürgerrechtsorganisation Open Rights Group (ORG). Die Organisation hatte sechs Monate lang den Einsatz künstlicher Intelligenz in Asylverfahren untersucht und dafür unter anderem interne Behördenunterlagen ausgewertet. Ein weiterer Bericht, über den der Guardian am Dienstag berichtet, beleuchtet den inzwischen weitreichenden KI-Einsatz in der britischen Migrationsverwaltung.

Qualitätsprobleme länger bekannt

Seit April 2026 steht den zuständigen Sachbearbeitern des britischen Innenministeriums ein KI-Assistent zur Verfügung, der Protokolle von Asylanhörungen zusammenfasst. Die Anwendung soll helfen, lange Anhörungen schneller auszuwerten und die Bearbeitung zu beschleunigen. Ein weiteres KI-System unterstützt die Recherche über die politischen und gesellschaftlichen Verhältnisse in Herkunftsländern.

Schon bei einem früheren Pilotversuch hatte das Innenministerium Qualitätsprobleme festgestellt: Neun Prozent der KI-Zusammenfassungen waren fehlerhaft oder unvollständig und mussten aussortiert werden. Die späteren Stichproben im laufenden Betrieb zeigten erneut erhebliche Mängel.

Wenn wichtige Angaben einfach fehlen

Dabei geht es nicht nur um falsch wiedergegebene Aussagen. Nach Erkenntnissen der Open Rights Group können auch entscheidende Informationen fehlen. Ein solches Versäumnis ist nach den ausgewerteten Prüfvorgaben aber kein ausdrücklicher eigenständiger Grund, den Text zurückzuweisen. Eine Zusammenfassung kann demnach als geeignet gelten, obwohl wesentliche Informationen fehlen.

In Asylverfahren kann das folgenreich sein. Ob jemand Schutz erhält, hängt häufig von Einzelheiten zur persönlichen Verfolgung, zu erlittenen Bedrohungen oder zum zeitlichen Ablauf bestimmter Ereignisse ab. Werden solche Angaben in einer Zusammenfassung ausgelassen, fehlt den Sachbearbeitern möglicherweise eine wichtige Grundlage für ihre Bewertung.

Nur ein Bruchteil wird überprüft

Noch schwerer wiegen die Erkenntnisse über die Qualitätskontrolle. Nach Berechnungen der Open Rights Group wurden zwischen April und Juli 2026 rund 70.000 Fälle mit dem KI-Assistenten bearbeitet. Lediglich 203 der erzeugten Zusammenfassungen unterzog die Behörde einer zusätzlichen fachlichen Stichprobenprüfung. Das entspricht etwa 0,3 Prozent.

Die Organisation kritisiert zudem, dass die Betroffenen die KI-Ergebnisse nach den Recherchen nicht selbst kontrollieren können. Asylsuchende würden nicht ausdrücklich darüber informiert, dass ihre Anhörung mithilfe künstlicher Intelligenz zusammengefasst wurde. Die generierten Zusammenfassungen könnten sie weder einsehen noch berichtigen. Ein von ORG beauftragtes Rechtsgutachten hält dieses Vorgehen für wahrscheinlich rechtswidrig.

Ministerium weist Kritik zurück

Das britische Innenministerium weist die grundsätzliche Kritik zurück. Über Asylanträge entschieden weiterhin geschulte Mitarbeiter. Die KI diene lediglich dazu, Anhörungsprotokolle und Informationen über Herkunftsländer leichter auszuwerten. Sie dürfe nicht isoliert eingesetzt werden und treffe selbst keine Entscheidungen. Die Leistung der Systeme werde regelmäßig überwacht; weitere Untersuchungen seien vorgesehen.

Doch genau hier setzt die Kritik der Bürgerrechtler an. Nach ihrer Auswertung automatisiert die KI auch einen Arbeitsschritt, den zuvor erfahrene Fachkräfte erledigten. Damit entfalle eine bisherige zusätzliche menschliche Überprüfung. Dass am Ende weiterhin ein Mensch entscheidet, beseitigt nach ihrer Auffassung nicht das Risiko, dass fehlerhafte KI-Ergebnisse dessen Bewertung beeinflussen.

Auch Deutschland setzt auf KI

Die britischen Erfahrungen sind auch für Deutschland relevant. Das Bundesamt für Migration und Flüchtlinge (Bamf) verwendet bereits künstliche Intelligenz bei der Bearbeitung von Asylverfahren.

Wie die Bundesregierung im September auf eine parlamentarische Anfrage mitteilte, durchsucht ein KI-gestütztes Assistenzsystem Anhörungsprotokolle nach möglicherweise sicherheitsrelevanten Aussagen. Die markierten Textstellen müssen anschließend von Sachbearbeitern überprüft und gegebenenfalls korrigiert werden. Ein weiteres System analysiert Sprachproben, um Hinweise auf die Herkunft von Asylsuchenden zu liefern.

Die deutschen Anwendungen unterscheiden sich von dem britischen System zur Zusammenfassung ganzer Anhörungen. Auch sie werten jedoch Angaben aus, die für ein Asylverfahren bedeutsam sein können.

Bundesregierung will KI-Einsatz erweitern

Umstritten ist auch ein weiteres Vorhaben der Bundesregierung. Sie will die gesetzlichen Möglichkeiten für den KI-Einsatz erweitern. Anfang Oktober beriet der Bundestag erstmals über das sogenannte KI-Migrationsverwaltungsgesetz. Es soll unter anderem erlauben, personenbezogene Daten für die Entwicklung und das Training von KI-Systemen zu verwenden und Verwaltungsverfahren automatisiert auszuwerten.

Auch die Bundesregierung verspricht effizientere Abläufe und betont, dass die Verantwortung für Entscheidungen bei Menschen verbleibe. Datenschützer und Menschenrechtsorganisationen bezweifeln allerdings, dass die vorgesehenen Kontrollmechanismen ausreichen, um Fehler und Benachteiligungen zuverlässig zu verhindern. (mig) Ausland Leitartikel