Gemäß eines Forschungsberichtes ist ein maschinelles Lernsystem entwickelt worden, das es zwar gestattet, Personen in Videos zu identifizieren, jedoch aktuelle Gesichtserkennungs-Systeme überlistet. Der Technologie zur Gesichtserkennung wird es bei dieser Methode erschwert, eine Person zu identifizieren. An diesem Projekt beteiligten sich Forscher von Facebooks AI-Research-Team und der Tel-Aviv University.
Novum: Verhinderung von Gesichtserkennung in Videos
Startups, wie D-ID, haben mit einer Reihe früherer Arbeiten bereits Grundlagen dafür geschaffen, die Technologie zur Entidentifizierung von Standbildern zu entwickelt. Dies jedoch ist der erste Ansatz, der mit Videos arbeitet. Bereits in ersten Tests punktete das Verfahren. Es konnte erfolgreich verhindern, dass man von Gesichtern mittels moderner Gesichtserkennungssysteme auf Personen schließen kann.
Bei der Methode muss man die KI für die automatische Videomodifikation nicht für jedes Video neu trainieren. Man bildet lediglich eine leicht verzerrte Version auf dem Gesicht einer Person ab, wobei man nur jene Gesichtszüge verändert, die das Gesichtserkennungs-System analysiert. Bereits winzige Veränderungen an Nase, Augen und Mund reichen schon aus, um es der Software zu erschweren oder unmöglich zu machen, eine Person zu identifizieren. Andere Eigenschaften, wie Mimik, Gestik, Hautfarbe und die Lippenbewegungen bedürfen keiner Veränderung. Man erreicht damit, dass einerseits die Modifikationen so gering sind, dass sie menschlichen Zuschauern kaum auffallen. Andererseits aber verhindern sie, dass Programme ein Gesicht eindeutig einer Person zuordnen können.
Allow YouTube content?
This page contains content provided by YouTube. Your consent is requested before loading the content, as it may use cookies and other technologies. You may want to read YouTube’s privacy policy and cookie policy before accepting.
<iframe title="Live Face De-Identification Video Samples" width="500" height="281" src="https://www.youtube-nocookie.com/embed/cCYnBtni7Wg?feature=oembed" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" referrerpolicy="strict-origin-when-cross-origin" allowfullscreen></iframe>
Wie die Faceswap-Deepfake-Software verwendet die KI eine Encoder-Decoder-Architektur, um sowohl eine Maske als auch ein Bild zu erzeugen. Während des Trainings wird das Gesicht der Person verzerrt und dann in das Netzwerk eingespeist. Das System generiert dann verzerrte und unverzerrte Bilder des Gesichts einer Person für die Ausgabe, die in Videos eingebettet werden können.
Gesichtserkennung birgt Missbrauchspotential
Im Forschungsbericht heißt es:
„Gesichtserkennung kann zum Verlust der Privatsphäre führen und durch Manipulation von Gesichtern dafür missbraucht werden, um irreführende Videos zu erstellen. Jüngste weltweite Ereignisse in Bezug auf die Fortschritte in der Gesichtserkennungstechnologie und deren Missbrauchsmöglichkeiten machen es erforderlich, Methoden zu verstehen, die erfolgreich eine Identifizierung umgehen. Unsere Anwendung ist bisher die einzige, die für Videos, einschließlich Live-Videos, geeignet ist.“
Technologie bleibt vorerst ungenutzt
Solche Methoden könnten eine öffentliche Rede ermöglichen, die für Personen, jedoch nicht für KI-Systeme erkennbar bleibt. Laut der News-Website VentureBeat plant Facebook derzeit nicht, diese neue Technologie anzuwenden.
Die Arbeit stellt Facebook auf der Internationalen Konferenz für Computer Vision (ICCV) vor, die nächste Woche in Seoul, Südkorea, stattfindet. Facebook hat die Gesichtserkennung zu Beginn dieses Jahres zu einem Standard auf seiner Plattform gemacht. Derzeit kämpft der Konzern gegen eine Klage diesbezüglich an. Diese hat einen Umfang von 35 Milliarden US-Dollar.
Foto KELLEPICS, thx!
Tarnkappe.info
Bei Pornhub soll eine künstliche Intelligenz nackte Tatsachen sortieren. Die Gesichtserkennung soll Darsteller automatisch erkennen und Attributen zuordnen.
Startups, wie D-ID, haben mit einer Reihe früherer Arbeiten bereits Grundlagen dafür geschaffen, die Technologie zur Entidentifizierung von Standbildern zu entwickelt. Dies jedoch ist der erste Ansatz, der mit Videos arbeitet. Bereits in ersten Tests punktete das Verfahren. Es konnte erfolgreich verhindern, dass man von Gesichtern mittels moderner Gesichtserkennungssysteme auf Personen schließen kann.
