Künstliche Intelligenz, Roboter, Hand, Diskriminierung, Benachteiligung, Domino
Selektion durch künstliche Intelligenz (Symbolfoto) © de.depositphotos.com

Heikle Daten

Was Namen einer Asyl-KI verraten sollen

Die Bundesregierung will künstliche Intelligenz mit sensiblen Daten aus Asylverfahren trainieren. 37 Organisationen warnen vor Diskriminierung und schwer nachvollziehbaren Fehlern. Für Betroffene könnte es schwierig werden, sich dagegen zu wehren.

Dienstag, 17.11.2026, 19:36 Uhr|zuletzt aktualisiert: Dienstag, 17.11.2026, 19:36 Uhr Lesedauer: 2 Minuten  |  

Vor- und Nachnamen können Hinweise auf Herkunft und Religionszugehörigkeit geben. Das steht in einem Entwurf der Bundesregierung zum KI-Migrationsverwaltungsgesetz. Mit diesem Argument begründet sie, weshalb künstliche Intelligenz für die Bearbeitung von Asylverfahren unter Umständen auch mit nicht anonymisierten Personendaten trainiert werden soll.

37 Organisationen, darunter AlgorithmWatch, Amnesty International und Pro Asyl, warnen in einem gemeinsamen Appell vor erheblichen Risiken. Sie befürchten Diskriminierung, Datenschutzverstöße und fehlerhafte Ergebnisse. Am 23. November beschäftigt sich der Innenausschuss des Bundestages mit dem geplanten Gesetz.

Danach will die Bundesregierung Behörden erlauben, vorhandene Asylakten zur Entwicklung von KI-Systemen zu verwenden. Die Technik soll unter anderem lernen, welche Angaben für Asylentscheidungen relevant sind und wie sie überprüft werden können. Dafür könnten hochsensible Informationen über politische Verfolgung, Religion, sexuelle Orientierung oder Gewalterfahrungen verarbeitet werden.

Keine guten Erfahrungen

Darüber hinaus soll das Bundesamt für Migration und Flüchtlinge (Bamf) Angaben von Asylsuchenden bei begründeten Zweifeln automatisiert mit öffentlich zugänglichen Internetinformationen abgleichen dürfen – auch mit Beiträgen aus sozialen Netzwerken.  Die Bundesregierung verspricht sich schnellere und bessere Verfahren. Über Asylanträge sollen weiterhin Menschen entscheiden.

Doch genau darin sehen die Organisationen ein Problem: Mitarbeitende könnten fehlerhaften maschinellen Ergebnissen zu sehr vertrauen und sie übernehmen. Dass solche Fehler vorkommen, zeigt Großbritannien. Dort werden KI-Systeme bereits eingesetzt, um Asylanhörungen zusammenzufassen. Bei einer Qualitätskontrolle fielen 45 von 203 überprüften Zusammenfassungen durch, weitere 19 mussten nachgeprüft werden.

Problematischer Rechtsschutz

Besonders problematisch ist nach Ansicht der Organisationen der Rechtsschutz. Zwar bestehen grundsätzlich Möglichkeiten zur Akteneinsicht und gerichtlichen Überprüfung. Der Gesetzentwurf verpflichtet Behörden aber nicht ausdrücklich dazu, Betroffene umfassend über verwendete KI-Ergebnisse und deren Einfluss auf ihre Entscheidung zu informieren.

Die Organisationen fordern deshalb verbindliche Informationsrechte, unabhängige Kontrollen und die Möglichkeit, Fehler vor einer Entscheidung richtigzustellen. Denn wer nicht weiß, welche Informationen eine Maschine über ihn zusammengetragen oder bewertet hat, könne ihnen kaum widersprechen. (mig) Aktuell Panorama

Zurück zur Startseite
MiGLETTER (mehr Informationen)

Verpasse nichts mehr. Bestelle jetzt den kostenlosen MiGAZIN-Newsletter:

UNTERSTÜTZE MiGAZIN! (mehr Informationen)

Wir informieren täglich über das Wichtigste zu Migration, Integration und Rassismus. Dafür wurde MiGAZIN mit dem Grimme Online Award ausgezeichnet. Unterstüzte diese Arbeit und verpasse nichts mehr: Werde jetzt Mitglied.

MiGGLIED WERDEN
Auch interessant
MiGDISKUTIEREN (Bitte die Netiquette beachten.)