KI-Video-Lügendetektor: Forschungsgeld-Missbrauch für Lobbyarbeit

Der KI-Video-Lügendetektor sollte eigentlich Grenz- und Zollbehörden die Arbeit zu erleichtern Jedoch offenbart ein Dokument die Hintergründe

Bildquelle: Markus Spiske

Das EU-Projekt KI-Video-Lügendetektor ist Kernstück des umstrittenen EU-Grenzschutzprojektes iBorderCtrl (Intelligentes tragbares Grenzkontrollsystem). Die Rekonstruktion eines bislang teilweise geschwärzten Dokuments enthüllt, dass das von der EU zu 100 Prozent finanzierte Forschungsprojekt dazu diente, „Lobbyarbeit für Grundrechtseinschränkungen durch den Gesetzgeber zu betreiben, um den Einsatz eines höchst umstrittenen „KI-Video-Lügendetektors“ an Reisenden zu ermöglichen“. Darauf weist Patrick Breyer, Europaabgeordneter, hin. Breyer gehört im Europaparlament der Fraktion Die Grünen/Europäische Freie Allianz an.

KI-Video-Lügendetektor soll an den Grenzen fester Bestandteil werden

Das EU-Grenzschutzsystem iBorderCtrl besteht aus mehreren Elementen. Neben dem KI-Video-Lügendetektor ist die Kontrolle der Einreisedokumente ein weiterer Bestanteil. Ferner gehört dazu eine Gesichtserkennung und der Fingerabdruckscanner. Demzufolge förderte die EU mit 4,5 Millionen Euro als Teilprojekt im Rahmen des iBorderCtrl-Forschungsprojekts auch den KI-Video-Lügendetektor. Dieser soll Grenzkontrollen erleichtern, indem er Lügen Einreisewilliger anhand einer Analyse von Gesichts-Videoaufnahmen bei der Beantwortung von Fragen aufdeckt. Einreisewillige stellen sich der Befragung vor eine Web-Kamera. Die Fragen stellt ein Avatar. Befragt werden die Reisenden u.a. nach dem Reisegrund oder zu ihrem Gepäck-Inhalt. Aufgrund von, für das menschliche Auge nicht erkennbaren, körperlichen Signalen erfolgt eine Beurteilung, ob der Betreffende die Wahrheit sagt oder lügt. Dabei sollen rund 40 Merkmale berücksichtigt werden.

EU-Verordnung zu E2EE

Lesen Sie auch

Alle gewonnenen Daten aus der Gesichts-, Fingerabdruck- und Passkontrolle sowie die Einbeziehung von sozialen Netzwerken, wie Facebook und Twitter, fließen dabei in einen Gesamtwert ein. Auf dessen Grundlage sollen Grenzbeamte dann entscheiden, ob eine gesonderte Einreisekontrolle bei Personen erofderlich wäre. Der auf künstlicher Intelligenz basierende Video-Lügendetektor entscheidet infolge darüber, wen man als möglichen illegalen Einwanderer, Kriminellen oder Terrorist gezielt gesondert befragen sollte. Und auch, wer sich unverdächtig verhält und deshalb schneller einreisen kann. Das von der EU geförderte Projekt des KI-Video-Lügendetektors stand bereits mehrfach unter heftiger Kritik.

Kritik zum Projekt KI-Video-Lügendetektor

Das iBorderCtrl-Forschungsprojekt zum Einsatz eines KI-Video-Lügendetektors an Reisenden wird dafür kritisiert, weil eine hundertprozentige Trefferquote nicht gewährleistet wird. Viele Reisende werden hier wahrscheinlich zu Unrecht einer Lüge bezichtigt. Es kann auch dazu kommen, dass Minderheiten besonders diskriminiert werden. Mit iBorderCtrl will man kürzere Wartezeiten erreichen. Es ist zu erwarten, dass sich Kontrollen an den EU-Außengrenzen ab 2023 deutlich verlängern.

Mit der Einführung des neuen „Ein-/Ausreiseystems“ (EES) verlangt die EU dann auch von Reisenden aus visafreien Staaten die Abgabe von einem Gesichtsbild und vier Fingerabdrücken. Derzeit verlangt man das nur bei einem Visa-Antrag oder einem Asylgesuch. Während dieses Projekt abgeschlossen ist, finanziert die EU aktuell das Nachfolgeprojekt TRESPASS mit 8 Millionen Euro.

Transparenzklage soll Klarheit schaffen

Am 5. Februar 2021 verhandelte bereits der Europäische Gerichtshof (EuGH) in Luxemburg über die Klage des Europabgeordneten Dr. Patrick Breyer wegen der mangelnden Informationspolitik der EU-Kommission. Breyer verlangte Auskunft über Forschungsprojekte zu “Künstlicher Intelligenz” (KI), die die EU-Kommission gefördert hat und die den Einsatz von Künstlicher Intelligenz bei Grenzkontrollen untersucht haben. Doch einen Teil der Ergebnisse hält die EU-Kommission seit Jahren unter Verschluss. Darunter eine ethische Bewertung und einen Bericht über die Zulässigkeit der Technologie. Nach öffentlicher Kritik entschied das iBorderCtrl-Konsortium, mehrere Dokumente über das umstrittene Forschungsprojekt der Öffentlichkeit vorzuenthalten. Nun wartet der Abgeordnete auf ein Grundsatzurteil. Breyer möchte damit einiges erreichen:

„Weil die EU immer wieder gefährliche Überwachungs- und Kontrolltechnologie entwickeln lässt, künftig sogar Waffenforschung finanziert, hoffe ich auf ein Grundsatzurteil, das öffentliche Kontrolle und Debatte über eine öffentlich finanzierte Forschungsförderung im Dienste privater Profitinteressen ermöglicht.

Mit meiner Transparenzklage will ich ganz grundsätzlich klären lassen, dass der Steuerzahler, die Wissenschaft, Medien und Parlamente ein Recht auf Zugang zu öffentlicher Forschung haben – gerade bei pseudowissenschaftlichen und orwellschen Entwicklungen wie dem „Video-Lügendetektor.“

Lobbyismus für KI-Projekt

Lügendetektor

Der „Verbreitungs- und Kommunikationsplan“ von iBorderCtrl ist ein Dokument aus dem Jahr 2017. Hinter Schwärzungen verborgen beschrieben darin die 13 Projektpartner, darunter Unternehmen, Polizeibehörden und Forscherteams von der Manchester Metropolitan University und der Leibniz Universität Hannover, wie sie mit umfassenden Lobbyismusmaßnahmen Gesetze ändern wollen.

Ziel sei es, iBorderCtrl und damit den KI-Video-Lügendetektor letztlich zum Erfolg zu führen. Es hieß, dass eine gesetzliche Grundlage erforderlich sein werde, um den „Video-Lügendetektor“ und ähnliche Technologien an Grenzen einsetzen zu können. Um auf solche Gesetzesänderungen „hinzuwirken“, plante das Konsortium „Kommunikationsaktivitäten“ gegenüber Abgeordneten, der EU-Kommission und Grenzbehörden.

„In der Tat wird eine gesetzliche Grundlage erforderlich sein. Um solche gesetzlichen Reformen zu fördern, müssen die wichtigsten Stakeholder richtig angesprochen werden.“

Zudem enthüllen die bisher geschwärzten Teile des „Kommunikationsplans“, dass „das iBorderCtrl-Konsortium bereits mit der Industrie zusammenarbeitete. Das System wolle man als „Grundlage vieler anderer Anwendungen für andere Zielgruppen und sogar andere Anwendungsbereiche“ einsetzen. Öffentlich hat die EU-Kommission hingegen behauptet, iBorderCtrl sei lediglich „ein Forschungsprojekt. Bei diesem ginge es nicht darum, ein tatsächlich funktionierendes System zu erproben oder einzuführen“.

Das Konsortium schätzte ein, dass es unwahrscheinlich sei, „dass … eine robuste Mehrheit der Bürger für die Einführung / Umsetzung von iBorderCtrl-Technologien … erreicht werden könnte. Eine kontroverse öffentliche Debatte könnte die Umsetzung der für iBorderCtrl erforderlichen Maßnahmen sogar behindern“.

Patrick Breyer kommentiert die Vorgänge folgendermaßen.

„Das ist nichts anders als mit Steuern finanziertes Lobbying für Gesetzesänderungen. Aus meiner Sicht ein schwerer Verstoß gegen die Rahmenbedingungen für solche Forschungsaktivitäten. Es hat nämlich mit Forschung gar nichts mehr zu tun. Das ist Lobbyismus.“

Das sieht die EU-Kommission anders, wie Deutschlandfunk Kultur berichtet. Auf Anfrage des Senders betonte ein Kommissionssprecher in einer schriftlichen Stellungnahme, „dass alle Forschungsanträge einer spezifischen Ethikbewertung unterzogen würden. Die Übereinstimmung mit ethischen Regeln und Standards werde überprüft und vertraglich festgeschrieben“.

Breyer zieht folgendes Fazit:

Überwachung

„Ich bin schockiert darüber, dass man EU-Forschungsgelder verwendet, um für Gesetzesänderungen zu lobbyieren, die unsere Grundrechte beschneiden.

Ich erwarte von der Kommission, dass sie offenlegt, wie weit verbreitet diese Praxis ist, und dass sie den skandalösen Missbrauch von Forschungsgeldern für Lobbyarbeit sofort stoppt!

Es ist kaum zu glauben, dass die EU-Forschungsexekutivagentur den Versuch der Industrie unterstützt, die Öffentlichkeit zu manipulieren und zu instrumentalisieren, indem sie den Bürger*innen wesentliche Fakten über dystopische Technologien vorenthält.

Wir müssen der Forschung an Überwachungs- und Kontrolltechnologien, die sowohl unethisch als auch illegal sind, dringend Einhalt gebieten. So etwas wie harmlose Forschung gibt es nicht.“

Tarnkappe.info

Antonia ist bereits seit Januar 2016 Autorin bei der Tarnkappe. Eingestiegen ist sie zunächst mit Buch-Rezensionen. Inzwischen schreibt sie bevorzugt über juristische Themen, wie P2P-Fälle, sie greift aber auch andere Netzthemen, wie Cybercrime, auf. Ihre Interessen beziehen sich hauptsächlich auf Literatur.