Aufnahmen von Amazons vernetzter Überwachungskamera Cloud Cam werden von Mitarbeitern zum Zwecke eines KI-Trainings ausgewertet.
Erst im April diesen Jahres wurde bekannt, dass Amazon Alexa als Spion im Wohnzimmer benutzt. Der Konzern gab zu, Alexa-Aufzeichnungen abzuhören: Amazon-Mitarbeiter analysieren die Sprachbefehle von Alexa-Nutzern. Wie die Nachrichtenagentur Bloomberg aktuell berichtet, geschieht das nun auch bei einem anderen Produkt von Amazon, der Cloud Cam. Demnach würden Teams in Indien und Rumänien von Kunden gesendete Video-Snippets zur Fehlerbehebung und zum Trainieren von Algorithmen für die künstliche Intelligenz verwenden.
Amazon Cloud Cam soll Benutzer rechtzeitig vor Gefahren warnen
Die Amazon Cloud Cam, die 2017 erstmals auf den Markt kam, kann über Amazon für ca. 120 Dollar erworben werden. Sie soll Personen vor kritischen Aktivitäten in ihren Häusern oder Wohnungen warnen. Dafür stehen den Usern über 24 Stunden kostenlosen Zugriff auf das Filmmaterial zu. Benutzer, die bereit sind, für ein monatliches Abonnement etwa 7 bis 20 US-Dollar zu zahlen, können diesen Zugang um einen Monat verlängern. Diese erhalten maßgeschneiderte Benachrichtigungen. Beispielsweise informiert man darüber, dass ein Baby weint oder ein Rauchmelder Alarm gibt.
Fehleinschätzungen der KI machen Training notwendig
In einem Werbevideo gibt Amazon.com Inc.an, dass seine Cloud Cam-Heimsicherheitskamera alles bieten würde, was zur Überwachung des Hauses rund um die Uhr nötig sei. Tatsächlich jedoch benötigt das KI-Gerät die Hilfe einer Gruppe unsichtbarer Helfer zum Sichten der Videos, denn derzeit ist das System noch fehleranfällig. So sendet die Cloud Cam bereits Warnmeldungen, wenn nur Papier im Wind raschelt. Zur Behebung dieser Fehleinschätzungen überprüfen dutzende von Amazon-Mitarbeiter in Indien und Rumänien ausgewählte Clips, die von Cloud Cam aufgenommen wurden. Davon berichteten fünf Personen, die an dem Programm teilnehmen oder direkt davon wissen. Diese Video-Schnipsel verwendet man zum Training der KI-Algorithmen, um eine bessere Unterscheidung zwischen einer realen Bedrohung, wie einem fremden Eindringling oder einem Fehlalarm, wie der Katze, die auf das Sofa springt, zu erzielen.
Mitarbeiter werten privates Filmmaterial aus
Zum Training der KI bewerten Amazon-Mitarbeiter täglich jeweils ca. 150 Videoaufnahmen von etwa 20 bis 30 Sekunden Länge. Die Aufnahmen werden dabei mit den Analyseergebnissen des Systems abgeglichen. In den Videoclips, die von den Cloud Cams stammen und auf den Cloud-Servern landen, sieht man jedoch nicht nur Außenbereiche. Ebenso werden Privaträume gezeigt, ja selbst intimste Momente, wenn Menschen Sex haben. Es kann auch vorkommen, dass private Gespräche mitgeschnitten werden. Hinweise auf persönliche Daten oder ähnliches werden so offengelegt, von dem niemand möchte, dass Dritte es erfahren. In der Praxis würden solche Clips mit unangemessenen Inhalten als solche gekennzeichnet. Diese verwirft man, damit man sie nicht versehentlich zum Trainieren der KI nutzt, gaben die Mitarbeiter an.
Amazon Cloud Cam: Heiligt der Zweck die Mittel?
Eine Sprecherin von Amazon äußerte sich zu den Vorwürfen wie folgt: „Wir nehmen den Datenschutz ernst und überlassen Cloud Cam-Kunden die Kontrolle über ihre Videoclips. Sofern das Filmmaterial nicht zur Fehlerbehebung übermittelt wird, können nur Kunden ihre Clips anzeigen.“ Demnach stammten die zur Auswertung vorliegenden Clips von Kunden, die diese freiwillig zur Behebung von Problemen, wie ungenauen Benachrichtigungen und Videoqualität, selbst eingereicht hätten. Offen bliebe die Frage, warum Mitarbeiter dann überhaupt mit solchen Clips konfrontiert werden, die privaten Charakter haben. Den Cloud-Cam-Teams in Indien und Rumänien ist jedenfalls unbekannt, wie das Unternehmen Clips auswählt, die mit ihren Anmerkungen versehen werden sollen. Gemäß den Angaben von drei Personen gab es keine offensichtlichen technischen Mängel im Filmmaterial, die zu Zwecken der Fehlerbehebung eingesandt werden müssten.
Nutzungsbedingungen der Amazon Cloud Cam mangelhaft
Auch wird in den Nutzungsbedingungen der Cloud Cam, Kunden nicht ausdrücklich mitgeteilt, dass Menschen die Algorithmen hinter ihrer Bewegungserkennungssoftware trainieren. Amazon gibt keine Informationen an seine Kunden über den Fehlerbehebungsprozess für Cloud Cam. Allein in den Allgemeinen Geschäftsbedingungen behält sich das Unternehmen das Recht vor, Bilder, Audio- und Videoaufnahmen von Geräten zu verarbeiten, um seine Produkte und Dienstleistungen zu verbessern.
Persönliche Daten nicht sicher vor unautorisierten Zugriffen
Wie die Mitarbeiter weiter offenlegen, habe Amazon dem KI-Trainingsteam strenge Sicherheitsbestimmungen auferlegt. In Indien arbeiten Dutzende am Programm Beteiligte auf einer zugangsbeschränkten Etage. Zudem dürfen die Mitarbeiter laut Angaben von zwei Personen ihr Mobiltelefon nicht benutzen. Das jedoch hätte andere Team-Mitglieder nicht davon abgehalten, Filmmaterial an Unbeteiligte weiterzugeben, wie eine andere Person mitteilte. Die Verwendung von Menschen zum Trainieren der künstlichen Intelligenz in Verbraucherprodukten ist unter Befürwortern der Privatsphäre umstritten. Es bestehen starke Bedenken hinsichtlich der Verwendung personenbezogener Daten.
Foto Momentmal, thx!
Tarnkappe.info
