Regierung will intimste Asyl-Daten in KI-Systeme speisen

Wer künstliche Intelligenz nutzt, sollte möglichst keine sensiblen persönlichen Informationen preisgeben. Bei Asylsuchenden will die Bundesregierung solche Daten hingegen für das Training von KI-Systemen nutzbar machen. Angaben über politische Verfolgung, religiöse Überzeugungen oder traumatische Erlebnisse, die Schutzsuchende gegenüber Behörden machen, sollen dafür unter bestimmten Voraussetzungen verwendet werden dürfen. Das sieht ein Gesetzentwurf vor, über den der Bundestag am Donnerstagabend erstmals berät. Sozialverbände und Datenschützer warnen vor Diskriminierung. Denn Erkenntnisse aus früheren Asylverfahren sollen auch beeinflussen, wie intensiv künftige Anträge geprüft werden.

Mit dem sogenannten KI-Migrationsverwaltungsgesetz will die Bundesregierung Asyl- und Aufenthaltsverfahren beschleunigen und Behörden entlasten. Dafür sollen bereits erhobene personenbezogene Daten zur Entwicklung und zum Training von KI-Systemen verwendet werden dürfen. Zudem sollen automatisierte Auswertungen abgeschlossener Verfahren helfen, wiederkehrende Muster zu erkennen und die Bearbeitung künftiger Anträge zu verbessern.

Im Asylverfahren müssen Schutzsuchende häufig sehr persönliche Informationen offenlegen, um ihre Verfolgung glaubhaft zu machen. Nach dem Gesetzentwurf sollen solche Angaben künftig auch für das Training automatisierter Systeme genutzt werden dürfen. Eine vorherige Anonymisierung ist dabei nicht zwingend erforderlich. Die Bundesregierung begründet dies damit, dass das Entfernen persönlicher Merkmale die Aussagekraft der Daten erheblich beeinträchtigen könne.

Namen sollen Hinweise auf Herkunft und Religion liefern

Welche Bedeutung persönliche Merkmale für die KI haben können, erläutert die Bundesregierung selbst. In der Gesetzesbegründung heißt es, Vor- und Nachnamen könnten Auskunft über die regionale oder soziale Herkunft sowie die Religionszugehörigkeit geben. Solche Informationen könnten helfen, Zusammenhänge zu erkennen und Angaben von Antragstellenden auf ihre Plausibilität zu überprüfen.

Zudem sollen abgeschlossene Asylverfahren systematisch ausgewertet werden. Untersucht werden könnte beispielsweise, ob Menschen mit bestimmten Eigenschaften häufiger Schutz erhalten oder abgelehnt werden. Auch Zusammenhänge zwischen Herkunftsländern, familiären Bindungen und der Glaubhaftigkeit von Angaben nennt die Bundesregierung als mögliche Untersuchungsgegenstände.

Besonders folgenreich ist eine weitere Passage der Gesetzesbegründung: Die gewonnenen Erkenntnisse sollen ausdrücklich auch in die Prüfungsintensität künftiger Asylanträge einfließen.

Damit besteht das Risiko, dass Menschen aus bestimmten Regionen oder mit bestimmten Merkmalen aufgrund statistischer Auffälligkeiten häufiger oder intensiver überprüft werden – selbst wenn bei ihnen persönlich keine Unstimmigkeiten festgestellt wurden. Sollten frühere Entscheidungen bereits von Fehlern oder Vorurteilen geprägt gewesen sein, könnten sich solche Muster auf diese Weise verfestigen.

Verbände warnen vor Benachteiligungen

Die Menschenrechtsorganisation PRO ASYL sieht darin erhebliche Gefahren für faire Asylverfahren. Der Gesetzentwurf lasse wichtige Fragen offen, etwa welche KI-Systeme eingesetzt werden dürften und wie sich deren Ergebnisse überprüfen ließen. Gerade bei der Bewertung persönlicher Verfolgungserfahrungen und der Glaubhaftigkeit von Angaben seien Transparenz und wirksamer Rechtsschutz unerlässlich.

„Denn es geht um Entscheidungen über Menschenleben“, erklärte die rechtspolitische Sprecherin von PRO ASYL, Wiebke Judith. Die Organisation fordert, den Gesetzentwurf nicht weiterzuverfolgen oder grundlegend zu überarbeiten.

Auch der Deutsche Caritasverband sieht erheblichen Nachbesserungsbedarf. Er fordert strengere Voraussetzungen für die Nutzung persönlicher Daten, mehr Transparenz und ein Widerspruchsrecht für Betroffene. Zudem müssten KI-Systeme regelmäßig auf diskriminierende Auswirkungen überprüft werden. Die Arbeiterwohlfahrt (AWO) empfiehlt ebenfalls, den Entwurf zurückzuziehen und grundlegend zu überarbeiten.

Noch weiter geht die Kritik der Deutschen Vereinigung für Datenschutz und des Netzwerks Datenschutzexpertise. In einer gemeinsamen Analyse kommen die Organisationen zu dem Schluss, dass zahlreiche Regelungen gegen Verfassungs- und Europarecht verstoßen. Sie warnen vor diskriminierenden Ergebnissen und schwerwiegenden Fehlentscheidungen. Ohne zusätzliche Sicherungen seien rechtsstaatliche Verfahren nicht ausreichend gewährleistet.

Bundesregierung verspricht menschliche Kontrolle

Die Bundesregierung betont dagegen, dass KI-Systeme nicht eigenständig über Asylanträge oder Aufenthaltstitel entscheiden sollen. Die Verantwortung verbleibe bei den zuständigen Mitarbeitenden. Zudem müssten Behörden sicherstellen, dass keine diskriminierenden Algorithmen entwickelt oder eingesetzt werden. Konkrete Verfahren für eine unabhängige Kontrolle der Systeme schreibt der neue Gesetzestext allerdings nicht vor.

Doch auch ohne selbst zu entscheiden, könnte KI erheblichen Einfluss auf Asylverfahren nehmen. Wenn automatisierte Auswertungen dazu beitragen, welche Anträge besonders gründlich untersucht und welche Angaben kritisch hinterfragt werden, kann die Technik die Behandlung einzelner Menschen mitprägen.

Unklar bleibt vor allem, wie Betroffene erkennen können, ob fehlerhafte oder benachteiligende KI-Auswertungen ihr Verfahren beeinflusst haben. Der Gesetzentwurf schafft dafür keine zusätzlichen umfassenden Informationsrechte. Zwar gelten bestehende Datenschutz- und Rechtsschutzvorschriften weiterhin. Nach Einschätzung der kritischen Verbände reichen die vorgesehenen Sicherungen jedoch nicht aus, um Benachteiligungen zuverlässig zu verhindern. (mig) Leitartikel Panorama