EU-Kommission stellt Gesetzentwurf zum Umgang mit KI vor

Die EU-Kommission legte heute ihren Gesetzesvorschlag zur künstlichen Intelligenz vor. Es soll KI-Anwendungen regulieren.

In Pocket speichern
Bildquelle: Computerizer

Die EU will in einem neuen Gesetz zur Regulierung von Künstlicher Intelligenz (KI), insbesondere KI-Anwendungen, die mit Risiken für den Menschen verbunden sind, normieren. Dementsprechend stellte die EU-Kommission heute einen Gesetzentwurf zum Umgang mit Künstlicher Intelligenz vor.

Einerseits will die Europäischen Kommission darin die KI-Entwicklung fördern. Andererseits verbietet sie manche Anwendungsfälle oder unterwirft sie strengeren Regeln.

Ziel der EU-Kommission: Schaffung klarer Regeln soll Vertrauen schaffen

Vizepräsidentin Margrethe Vestager, Vizepräsidentin der EU-Kommission, nimmt Stellung.

EU-Kommission

„Bei künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk. Unser Vorschlag beschäftigt sich deshalb nicht mit der KI selbst, sondern mit ihren Anwendungen.“ Die EU-Kommission habe dabei einen verhältnismäßigen und risikobasierten Ansatz nach einer simplen Logik gewählt: „Je höher das Risiko einer spezifischen Nutzungsart der KI, desto strenger die Regeln.“

Lesen Sie auch

EU-Kommission klassifiziert KI-Anwendungen in vier Gefahrenpotenzial-Kategorien

Einzelne Anwendungen werden in der KI-Verordnung vier Gefahrenpotenzial-Kategorien zugeordnet. Die meisten KI-Systeme fielen dabei in die Kategorien „kleines“ oder „gar kein“ Risiko, wie Videospiele oder Filter für Spamnachrichten. Diese bedürfen keiner Regulierung. Kommissionsvizepräsidentin Vestager warnt hingegen vor Hochrisikoanwendungen. Hier wäre besondere Wachsamkeit angebracht.

„Zum Beispiel geht es hier um KI, die genutzt wird, um Bewerbungen für die Universität oder einen Job auszuwählen. Es kann auch um Systeme gehen, die die Kreditwürdigkeit von jemanden bewerten. Oder eine Software, die genutzt wird in selbstfahrenden Autos oder in Medizinprodukten, was auch Risiken für unsere Sicherheit bringen könnte.“

Dabei müssen die jeweiligen Anbieter die Regelkonformität ihrer Produkte garantieren. Mit einer exakten Dokumentation für System-Entwicklung und -Nutzung sowie einer genauen Daten-Kontrolle will man das erreichen. Bei Zuwiderhandlungen drohen mitunter saftige Strafen. Fällig werden infolge bis zu 30 Millionen Euro oder bis zu sechs Prozent ihres globalen Jahresumsatzes.

Als künftig verboten gilt gemäß des Gesetzentwurfs der EU-Kommission eine KI-Anwendung zur generalisierten Überwachung oder Manipulation der Bevölkerung. Zudem nicht gestattet wäre Social Scoring, bei dem eine Bewertung der Menschen stattfindet aufgrund ihres sozialen Verhaltens, ähnlich wie in China praktiziert.

Gesichtserkennung

Gesichtserkennung im öffentlichen Raum soll dann nur in klar definierten zeitlich und geografisch begrenzten Ausnahmefällen zugelassen sein. Zum einen, um vermisste Kinder zu finden und schwere Verbrechen, wie Terroranschläge, zu verhindern. Zum anderen, um Menschen zu finden, die besonders schwere Verbrechen begangen haben. Voraussetzung hierfür ist eine richterliche Genehmigung.

Dem Gesetz-Entwurf der EU-Kommission müssen noch EU-Parlament und Mitgliedstaaten zustimmen. Nach diesem Gesetzgebungsprozess würde das Gesetz dann unmittelbar in den EU-Mitgliedsländern gelten und den KI-Einsatz regeln. Für eine Durchsetzung der neuen Regeln sollen anschließend nationalen Behörden in den EU-Staaten sorgen.

Unzureichende Biometrie-Regelung?

Anlässlich der heutigen Vorstellung der Verordnung zur Regulierung künstlicher Intelligenz (KI-Verordnung) durch die Europäische Kommission stellt Dr. Patrick Breyer, Europaabgeordneter, fest, „der Entwurf sieht nur Auflagen und kein Verbot biometrischer Massenüberwachung vor. […] Dass die Kommission ausgerechnet Massenüberwachung unserer Telekommunikation und biometrische Massenüberwachung weithin ermöglichen will, das ist völlig inakzeptabel.“

Die Piratenpartei und ihre Fraktion Grünen/Europäische Freie Allianz fordern dabei von der Europäischen Kommission nun, „die schädlichen Auswirkungen biometrischer Überwachungsmethoden auf unsere Grundrechte anzuerkennen und ein Verbot biometrischer Massenüberwachung in die anstehende KI-Verordnung aufzunehmen“.

Patrick Breyer kommentiert:

“Gesichtserkennung, Profiling und Verhaltensanalyse im öffentlichen Raum bedrohen unsere grundlegendsten Freiheiten. Diese Technologien haben das Potenzial, unsere vielfältige Gesellschaft grundlegend zu verändern.

Google Surveillance Bankraub

Menschen, die sich ständig beobachtet und überwacht fühlen, können nicht frei für ihre Rechte und für eine gerechte Gesellschaft eintreten. Wir brauchen einen wirksamen Schutz vor biometrischer Massenüberwachung in der EU. 

Weltweit protestiert die Zivilgesellschaft gegen den Einsatz dieser Technologien. Wissenschaftler sagen zu Gesichtserkennungssystemen, dass wegen der unzuverlässigen Technik im praktischen Einsatz zu 99% unschuldige Bürger/innen unter Verdacht geraten, eine Straftat begangen zu haben. Außerdem diskriminieren solche Systeme Minderheiten wie Menschen anderer Hautfarbe. In den Vereinigten Staaten haben Städte und Bundesstaaten bereits mit Verboten reagiert.

Europa darf nicht zulassen, dass bestimmte Gruppen von Menschen diskriminiert und massenhaft unschuldige Personen verdächtigt werden. Wir wollen in einer Gesellschaft des Vertrauens und des Rechts leben, nicht in einer Gesellschaft des Misstrauens und der Spaltung.“

FDP-Politikerin Nicola Beer, Vizepräsidentin des EU-Parlaments, fehlt ebenso das klare Verbot von Gesichtserkennung im öffentlichen Raum. Sie kritisiert:

EU-Kommission, Identifikationspflicht, ePrivacy, EU-Kommission

„Der derzeitige Entwurf würde eine Massenüberwachung mit Hilfe biometrischer KI-Algorithmen ermöglichen. Hier wird meines Erachtens eine rote Linie überschritten. Dies dürfen wir nicht zulassen.“

Tarnkappe.info

Antonia ist bereits seit Januar 2016 Autorin bei der Tarnkappe. Eingestiegen ist sie zunächst mit Buch-Rezensionen. Inzwischen schreibt sie bevorzugt über juristische Themen, wie P2P-Fälle, sie greift aber auch andere Netzthemen, wie Cybercrime, auf. Ihre Interessen beziehen sich hauptsächlich auf Literatur.