Mit TikTok und Bumble hat ein von Meta entwickeltes Tool, das Rachepornos aus sozialen Netzwerken verbannt, neue Interessenten gefunden.
StopNCII, ein von Meta entwickeltes Tool zur Erkennung von Rachepornos in seinen sozialen Netzwerken Facebook und Instagram, hat zwei neue Interessenten gefunden. Sowohl die Videoplattform TikTok als auch die Dating-App Bumble gleichen die von ihren Anwendern hochgeladenen Medien ab sofort mit der Datenbank von StopNCII ab.
Facebook startete mit einem Pilotprojekt in Australien
Im Jahr 2017 forderte Facebook australische Anwender dazu auf, ihre Nacktfotos an den Betreiber der Plattform zu übermitteln. Diese sollten bei der Entwicklung eines Tools zur Bekämpfung von sogenannten Rachepornos unterstützen.
Durch die Erstellung eines digitalen Fingerabdrucks der hochgeladenen Dateien wollte der Konzern deren Verbreitung durch andere Benutzer schneller erkennen und unterbinden können. Insbesondere bei einigen weiblichen Anwendern schien diese Funktion aus ihrer verzweifelten Situation heraus durchaus auf Interesse zu stoßen, wie Bloomberg berichtet.
StopNCII nutzt Hashes zur Erkennung von Rachepornos auf Facebook und Instagram
Inzwischen stellt Meta weltweit für Benutzer von Facebook und Instagram eine weiterentwickelte Version dieses Tools zur Verfügung. Ein Upload der Aufnahmen ist dafür nicht mehr erforderlich. Denn die Software erzeugt die benötigten Hashes auf dem Rechner der Anwender und überträgt nur diese zum Server.
Bei der Entwicklung arbeitet der Konzern eng mit SWGfL zusammen. Dabei handelt es sich um eine britische gemeinnützige Organisation, die auch eine Revenge Porn Helpline anbietet. Über 12.000 Menschen haben über das StopNCII genannte Tool bereits mehr als 40.000 Hashes erstellt. Diese gleicht Meta automatisch mit den von Benutzern seiner sozialen Netzwerke hochgeladenen Medien ab.
TikTok und Bumble schließen sich Kampf gegen Rachepornos an
Dazu gesellen sich nun zwei weitere Dienste, die auf diesen Datenbestand zurückgreifen. Sowohl die Video-Plattform TikTok als auch die Dating-App Bumble gleichen ihre von Anwendern bereitgestellten Inhalte ab sofort mit den Hashes aus der StopNCII-Datenbank ab. Infolge einer Übereinstimmung der digitalen Fingerabdrücke werden betroffene Bilder und Videos auf beiden Plattformen blockiert.
Gerade für TikTok könnte dies ein wichtiger Schritt sein, um das Vertrauen der Anwender in die Plattform zu steigern. Denn zuletzt hatte der Dienst überwiegend für negative Schlagzeilen gesorgt.
Dennoch kommt diese Maßnahme nicht sonderlich überraschend. Schließlich bereitet das Vereinigte Königreich derzeit die Einführung neuer Regelungen vor, die Plattformen mit nutzergenerierten Inhalten dazu verpflichten, der Entfernung von Rachepornos eine hohe Priorität einzuräumen. Und auch in Australien müssen soziale Medien gemeldete Fälle innerhalb von 24 Stunden entfernen.
Hohe Geldstrafen in beiden genannten Regionen sorgen für einen wirtschaftlichen Anreiz, um Rachepornos möglichst schnell aus den Netzwerken verschwinden zu lassen. Die EU und die USA stehen jedoch bisher nur am Spielfeldrand und beobachten die Situation.
