CycleGAN: Sicherheitsforscher haben eine Studie veröffentlicht, in der sie aufzeigen, wie man Gesichtserkennungssysteme umgehen kann.
Gesichtserkennungssysteme lassen sich austricksen
Zu Forschungszwecken entwickelte McAfee ein fortschrittliches Gesichtserkennungssystem, das genau auf die auf Flughäfen eingesetzten Passüberprüfungssysteme abgestimmt ist. Die Forscher verwendeten Bilder von zwei Personen (den Projektleitern) – A (Steve) und B (Jesse). Das Ziel war es, Jesse auf seinem Passfoto wie Jesse aussehen zu lassen und dennoch als Steve eingestuft zu werden und umgekehrt. Mittels solcher Methoden, wie „Model Hacking“ oder „Adversarial Machine Learning“ (AML), versuchten sie, KI-Modelle durch die Bereitstellung täuschender Eingaben auszutricksen. Das Forschungsteam verwendete ein GAN-Framework namens CycleGAN. Damit gelang es problemlos, ein Bild in das andere zu übersetzen. In der Umsetzung speiste das Team jeweils 1.500 Fotos der beiden Projektleiter in das CycleGAN-System ein. Gleichzeitig verwendeten sie den Gesichtserkennungsalgorithmus, um die generierten Bilder des CycleGAN zu überprüfen und festzustellen, wen es erkannt hat. Infolge erzeugten sie nun Hunderte von Bildern und sie hatten schließlich Erfolg. Das System erkannte ein solches Mischbild als Jesse, obwohl es für einen Menschen wie Steve aussah und umgekehrt. Das angestrebte Ziel hat man somit erreicht.CycleGAN: Resumee der Forscher
Mit diesen Mischbildern war McAfee letztendlich in der Lage, das Gesichtserkennungssystem zu „modellieren“, wodurch eine Person als völlig andere Person falsch klassifiziert wurde, ohne das fotorealistische Erscheinungsbild der ursprünglichen Person zu beeinträchtigen. Steve Povolny führt zum Thema CycleGAN aus.„Wenn wir vor eine Live-Kamera treten, die Gesichtserkennung verwendet, um zu identifizieren und zu interpretieren, wen sie betrachtet, und diese mit einem Passfoto vergleicht, können wir diese Art der gezielten Fehlklassifizierung realistisch und wiederholt verursachen“. „Der Rückgriff auf automatisierte Systeme und maschinelles Lernen ohne Berücksichtigung der inhärenten Sicherheitsmängel, die in der inneren Mechanik der Gesichtserkennungsmodelle vorhanden sind, könnte Cyberkriminellen einzigartige Möglichkeiten bieten, kritische Systeme, wie die automatisierte Passkontrolle zu umgehen“, so die Forscher.Nachdem sie den Nachweis erbracht haben, suchen sie künftig nach einer engen Zusammenarbeit mit den System-Anbietern, um deren Sicherheit zu verbessern. Wegen Covid-19 kommen aktuell tatsächlich auf Flughäfen verstärkt Gesichtserkennungssysteme zum Einsatz. Allerdings haben die Forscher auf Praxistests mit auf Flughäfen eingesetzten Gesichtserkennungssystemen verzichtet.
