1984 is now, Überwachung
1984 is now, Überwachung
Bildquelle: Markus Spiske, thx!

AI Act: EU-weite biometrische Massenüberwachung kommt wohl

Kürzlich haben sich die Telekommunikations-Minister der 27 EU-Mitgliedstaaten auf einen gemeinsamen Standpunkt zum künftigen AI Act geeinigt.

Beim geplanten KI-Gesetz, genannt AI Act, befindet sich die Politik auf EU-Ebene in einem großen Spannungsfeld. Dieses verläuft zwischen innovationsfreudigen Unternehmen auf der einen Seite und Daten- bzw. Verbraucherschützern auf der anderen.

Der AI Act sollte eigentlich die Gefahren …

Die Abkürzung AI steht für Artificial Intelligence. Artifiziell bedeutet künstlich (auch: vorgetäuscht). Die Politiker regeln auf EU-Ebene beim AI Act die rechtlichen Rahmenbedingungen für den Einsatz von “Künstlicher Intelligenz” (KI).

AI Act

Vergangenen Dienstag einigten sich alle 27 Telekommunikations-Minister auf die grobe Richtung, die der AI Act in Zukunft einschlagen soll. Die jetzige Entscheidung soll indes die innovativen Kräfte der Wirtschaft beflügeln. Dies wird sich allerdings zweifellos zum Nachteil des europäischen Daten- und Verbraucherschutzes auswirken.

Das Verhandlungsmandat des Rates für die Triloge mit dem Europäischen Parlament fällt äußerst schwach aus, wenn es um den Einsatz von KI zu Zwecken der Massenüberwachung geht. So zumindest lautet die Einschätzung des Europaabgeordneten der Piratenpartei, Dr. Patrick Breyer.

Breyer schreibt auf seinem Blog:

“Die heute angenommene Position würde eine dystopische Zukunft der biometrischen Massenüberwachung in Europa ermöglichen, in der jeder von uns potenziell einer ständigen Identifizierung ausgesetzt ist, sein Verhalten überwacht und seine Emotionen im öffentlichen Raum analysiert werden würden. Sie würde den permanenten und allgegenwärtigen Einsatz von Gesichtserkennungstechnologie rechtfertigen.

… des Einsatzes künstlicher Intelligenz reduzieren

Und dies, um nach Tausenden von “Opfern”, “Bedrohungen” und Verdächtigen von “schweren Verbrechen” zu suchen, die zu jedem Zeitpunkt zur Fahndung ausgeschrieben sind. Wir dürfen keine Kultur des Misstrauens normalisieren und uns nicht an die Seite autoritärer Regimes stellen, die KI (mithilfe des AI Acts) zur Unterdrückung der Zivilgesellschaft, zum Social Scoring, zu Menschenrechtsverletzungen und zur Totalüberwachung einsetzen.

Mit Fehlerquoten (Falschmeldungen) von bis zu 99 % hat die ineffektive Gesichtsüberwachungs-Technologie keine Ähnlichkeit mit der gezielten Suche, als die Regierungen sie darzustellen versuchen. Es gibt kein einziges Beispiel für eine biometrische Echtzeit-Überwachung, die einen Terroranschlag verhindert oder “vermisste Kinder” gefunden hätte.

Wir müssen uns gegen die biometrische Massenüberwachung unserer öffentlicher Räume wehren. Diese Technologien erfassen zu Unrecht eine große Zahl unschuldiger Bürger:innen, diskriminieren systematisch unterrepräsentierte Gruppen und haben eine abschreckende Wirkung auf eine freie und vielfältige Gesellschaft. Menschen, die sich ständig beobachtet und überwacht fühlen, können nicht frei und mutig für ihre Rechte und für eine gerechte Gesellschaft eintreten.

Gesetze, die (wie der AI Act) eine willkürliche Massenüberwachung erlauben, wurden von den Gerichten immer wieder wegen ihrer Unvereinbarkeit mit den Grundrechten für nichtig erklärt. Wir müssen für eine Gesellschaft des Vertrauens und der Grundrechte eintreten, nicht für eine Gesellschaft des Misstrauens und der Spaltung. Massenüberwachung hat keinen Platz in unserer Gesellschaft, und wir werden im EU-Parlament für ein Verbot kämpfen!”

suspect
Foto: Lars Sobiraj.

Keine Mehrheit für biometrische Massenüberwachung?

Laut einer Umfrage von YouGov (aus März 2021) in zehn EU-Ländern gibt es derzeit dabei keine Mehrheit für den Einsatz von biometrischer Massenüberwachung. Allerdings muss man dabei bedenken, dass die Umfrage im Auftrag der Grünen Fraktion des Europäischen Parlaments durchgeführt wurde. Patrick Breyer gehört dieser Fraktion an.

Für ein Sozialkreditsystem wie in China hat man am Dienstag zumindest keine Weichen gestellt. Das Social Scoring will man im AI Act der Europäischen Union immerhin im Gegensatz zum Fernen Osten verbieten. Aber wer weiß, was für böse Überraschungen in den nächsten Jahren noch auf uns warten werden.

Tarnkappe.info

Mehr zu dem Thema Datenschutz
Lars Sobiraj

Über

Lars Sobiraj fing im Jahr 2000 an, als Quereinsteiger für verschiedene Computerzeitschriften tätig zu sein. 2006 kamen neben gulli.com noch zahlreiche andere Online-Magazine dazu. Er ist der Gründer von Tarnkappe.info. Außerdem brachte Ghandy, wie er sich in der Szene nennt, seit 2014 an verschiedenen Hochschulen und Fortbildungseinrichtungen den Teilnehmern bei, wie das Internet funktioniert.