[Podcast] Save Our Souls: Folge 12

Grafik für den Podcast Save Our Souls der Freiwilligen von SOS Humanity

Lügendetektoren zur Migrationskontrolle? – Journalistin Chris Köver über den problematischen Einsatz von KI an den EU-Außengrenzen

Als Redakteurin von netzpolitik.org schreibt Chris Köver über digitale Gewalt, künstliche Intelligenz und Migration. In dieser Podcast-Folge sprechen wir mit Chris über den Einsatz von KI an den EU-Außengrenzen. Wir erfahren, wie künstliche Intelligenz genutzt wird, um die gefährliche EU-Abschottungspolitik voranzutreiben und warum der Einsatz der Technologien zu Menschenrechtsverletzungen an den Grenzen führen kann.

Hört gleich rein!

"Technologien wie etwa die automatisierte Gesichtserkennung entwickeln sich gerade rasant schnell. Mit der Argumentation, dass die KI eine zu hohe Fehlerrate hat, begeben wir uns in eine argumentative Falle. Was sagen wir denn, wenn die Fehlerrate von der Gesichtserkennung irgendwann nicht mehr so hoch ist? Es sollte stattdessen per se Gründe geben, diese Technologien nicht einzusetzen: weil der Eingriff in die Grundrechte Einzelner zu groß ist."

Mehr zu der Folge:

Im Mai 2024 wurde der langwierig verhandelte AI-Act verabschiedet, der die Verwendung von KI in der EU regulieren soll. Der AI-Act thematisiert die verletzliche Lage von Menschen auf der Flucht und stuft den Einsatz von künstlicher Intelligenz an den EU-Außengrenzen als hochriskant ein. Dennoch kommen gerade hier besonders viele KI-Systeme zum Einsatz: Überwachungstechnologien, automatisierte biometrische Identifikation und Systeme zur Prognose von “Migrationsströme” sind Teil der digitalen Aufrüstung der Grenzen. Von 2016 bis 2019 finanzierte die EU das Forschungsprojekt iBorderControl, das unter anderem zum Ziel hatte, einen Lügendetektor für Einreisekontrollen zu entwickeln.  

Die Technologie basiert auf dem wissenschaftlich höchst umstrittenen Prinzip der Emotionserkennung, bei der anhand einer Analyse des Körpers und der Stimme überprüft werden soll, ob ein Mensch die Wahrheit spricht. Die Tatsache, dass die EU in Betracht zieht, das Schicksal von Schutzsuchenden mithilfe eines Lügendetektors zu entscheiden, spricht Bände. Chris Köver kritisiert, wie undurchsichtig die EU-Verordnungen zum Einsatz von KI im Bereich Fluchtmigration sind. Sie weist auf Initiativen hin, die die Zivilgesellschaft über die Gefahren aufklären, die die Digitalisierung der europäischen Grenzpolitik mit sich bringen. Dazu gehört das Projekt „Automation on the Move“ von der NGO AlgorithmWatch. Chris Köver empfiehlt außerdem die Texte ihres Kollegen Matthias Monroy, der ebenfalls über neue technologische Anwendungen zur Überwachung und Kontrolle an den EU-Außengrenzen schreibt. 

Das Gespräch wurde am 19. Dezember 2024 aufgezeichnet. 

Newsletter Abonnieren
Die Datenschutzerklärung wird mit der Registrierung zur Kenntnis genommen.
Kontakt

SOS Humanity e.V.
Postfach 440352
12003 Berlin

kontakt@sos-humanity.org
+49 3023525682

Spendenkonto

SOS Humanity e.V.

IBAN: DE04 1005 0000 0190 4184 51
BIC: BELADEBEXXX

Transparenz

Copyright 2025 – SOS Humanity