[Podcast] Save Our Souls: Folge 12

Lügendetektoren zur Migrationskontrolle? – Journalistin Chris Köver über den problematischen Einsatz von KI an den EU-Außengrenzen
Als Redakteurin von netzpolitik.org schreibt Chris Köver über digitale Gewalt, künstliche Intelligenz und Migration. In dieser Podcast-Folge sprechen wir mit Chris über den Einsatz von KI an den EU-Außengrenzen. Wir erfahren, wie künstliche Intelligenz genutzt wird, um die gefährliche EU-Abschottungspolitik voranzutreiben und warum der Einsatz der Technologien zu Menschenrechtsverletzungen an den Grenzen führen kann.
Mehr zu der Folge:
Im Mai 2024 wurde der langwierig verhandelte AI-Act verabschiedet, der die Verwendung von KI in der EU regulieren soll. Der AI-Act thematisiert die verletzliche Lage von Menschen auf der Flucht und stuft den Einsatz von künstlicher Intelligenz an den EU-Außengrenzen als hochriskant ein. Dennoch kommen gerade hier besonders viele KI-Systeme zum Einsatz: Überwachungstechnologien, automatisierte biometrische Identifikation und Systeme zur Prognose von “Migrationsströme” sind Teil der digitalen Aufrüstung der Grenzen. Von 2016 bis 2019 finanzierte die EU das Forschungsprojekt iBorderControl, das unter anderem zum Ziel hatte, einen Lügendetektor für Einreisekontrollen zu entwickeln.
Die Technologie basiert auf dem wissenschaftlich höchst umstrittenen Prinzip der Emotionserkennung, bei der anhand einer Analyse des Körpers und der Stimme überprüft werden soll, ob ein Mensch die Wahrheit spricht. Die Tatsache, dass die EU in Betracht zieht, das Schicksal von Schutzsuchenden mithilfe eines Lügendetektors zu entscheiden, spricht Bände. Chris Köver kritisiert, wie undurchsichtig die EU-Verordnungen zum Einsatz von KI im Bereich Fluchtmigration sind. Sie weist auf Initiativen hin, die die Zivilgesellschaft über die Gefahren aufklären, die die Digitalisierung der europäischen Grenzpolitik mit sich bringen. Dazu gehört das Projekt „Automation on the Move“ von der NGO AlgorithmWatch. Chris Köver empfiehlt außerdem die Texte ihres Kollegen Matthias Monroy, der ebenfalls über neue technologische Anwendungen zur Überwachung und Kontrolle an den EU-Außengrenzen schreibt.
Das Gespräch wurde am 19. Dezember 2024 aufgezeichnet.