Die EU muss im KI-Gesetz die Menschenrechte von Migrant*innen respektieren

Die Generalsekretärin von Amnesty International, Agnès Callamard, hat in einem offenen Brief die Berichterstatter*innen und Mitglieder der führenden Ausschüsse zum EU-Gesetz über künstliche Intelligenz (KI-Gesetz) aufgefordert, den Einsatz bestimmter Systeme der künstlichen Intelligenz zu verbieten, die mit den Menschenrechten von Migrant*innen, Flüchtlingen und Asylbewerber*innen im KI-Gesetz unvereinbar sind.

Sie fordert ein Verbot für:

• automatisierte Risikobewertungs- und Profilerstellungssysteme, die verwendet werden, um festzustellen, ob Menschen, die unterwegs sind, ein "Risiko" für rechtswidrige Handlungen oder Sicherheitsbedrohungen darstellen. Diese könnten die Rechte auf Nichtdiskriminierung, Privatsphäre und Datenschutz sowie das Recht auf Freiheit und Sicherheit gefährden.
• prädiktive Analysesysteme, die vorhersagend eingesetzt werden, um Migration zu unterbinden, einzuschränken und zu verhindern, was ein großes Risiko der Abschiebung und der Verletzung des Rechts auf Asyl birgt.
• den Einsatz von KI-basierten "Täuschungsdetektoren" und anderen Instrumente zur Erkennung von Emotionen, da sie das Recht auf Nichtdiskriminierung, Privatsphäre, Freiheit und ein faires Verfahren bedrohen.
• die retrospektive (nachträgliche) ferngesteuerte biometrische Identifizierung (RBI) zusätzlich zur Echtzeit-RBI in allen Kontexten, einschließlich Migration und Grenzmanagement, die eine massenhafte und diskriminierende Überwachung erleichtern und den Grundsatz der Nichtzurückweisung bedrohen. Die Ausfuhr solcher Technologien sollte ebenfalls verboten werden.

Zum offenen Brief (englisch)