Die Datenschutzstandards von ChatGPT entsprechen nicht der EU-DSGVO. OpenAI muss jetzt liefern, sonst könnte ein Verbot in der EU drohen.
Der KI-Assistent ChatGPT ist eine echte Erfolgsgeschichte – außer in der EU. Die Datenschützer der Europäischen Union setzen den Chatbot von OpenAI unter Druck. Denn ChatGPT verstößt gegen zentrale Prinzipien der strengen Datenschutz-Grundverordnung (DSGVO). Das liegt vor allem an zwei Problemen: Falsche Daten lassen sich kaum korrigieren und ChatGPT produziert häufig falsche Informationen.
Falsche Informationen, keine Korrekturmöglichkeit
Der Europäische Datenschutzbeauftragte hat in seinem Bericht kaum ein gutes Haar an ChatGPT gelassen. Denn das KI-System verarbeitet personenbezogene Daten in einer Weise, die gegen EU-Recht und Datenschutzstandards verstößt. Kernproblem: Die Informationen, die ChatGPT ausspuckt, sind oft falsch oder sogar frei erfunden. Bei herkömmlichen Datenbanken ist das kein Drama, weil die Nutzer falsche Angaben zu ihrer Person korrigieren lassen können. Bei ChatGPT ist das nicht möglich, weil die Fehler tief im Trainingsmodell verankert sind.
Die KI lernt aus riesigen Datenmengen, auch aus fehlerhaften und verzerrten Quellen. Diese Fehlinformationen prägen das Modell dauerhaft. Sie können nicht einfach geändert werden, da ChatGPT keine separate Datenbank enthält, aus der fehlerhafte Einträge gelöscht werden könnten. Die falschen Informationen sind sozusagen in den „Synapsen“ des KI-Modells verankert.
Wird keine Lösung gefunden, könnte der beliebte Chatbot in der EU verboten werden. Denn die DSGVO sieht ein Recht auf Berichtigung falscher Daten vor. Die EU-Kommission erhöht nun den Druck auf OpenAI, dieses Grundrecht umzusetzen.
ChatGPT entspricht nicht den Datenschutzstandards: OpenAI in der Zwickmühle
Für OpenAI ist dies ein echtes Dilemma. Denn ChatGPT entspricht ganz klar nicht den Datenschutzstandards. Das Unternehmen betont, dass eine technische Lösung extrem komplex wäre. Im Grunde bräuchte man ein völlig neues Modell, um falsche biografische Daten zu korrigieren. Solche „Systemupdates“ sind jedoch teuer und aufwendig.
Außerdem drängt die Zeit, denn die ersten Klagen sind bereits eingegangen. So hat eine österreichische Persönlichkeit OpenAI verklagt, weil ChatGPT hartnäckig ein falsches Geburtsdatum ausgibt und diesen Fehler nicht korrigiert.
Weitere Baustellen gibt es auch intern bei OpenAI. Mehrere Spitzenkräfte haben das Start-up kürzlich verlassen. Darunter Mitgründer Ilya Sutskever und weitere KI-Experten. Zudem sorgte ein peinlicher Fauxpas für Aufsehen: OpenAI musste die neue Stimme „Sky“ auswechseln, weil sie der Hollywood-Stimme von Scarlett Johansson aus „Her“ zu ähnlich klang.
All dies könnte sich für ChatGPT als harte Nuss erweisen. OpenAI muss jetzt schnell liefern, sonst könnte der Chatbot in der EU verboten werden.
