Forscher wollten Vorschulkinder per Bodycam filmen für ihre KI-Trainingsdaten. Nach massivem Protest wurde das Projekt gestoppt.
An der University of Washington sollte ein Forschungsprojekt Vorschulkinder filmen, um neue KI-Modelle für die Bewertung von Unterrichtsqualität zu entwickeln. Geplant war, dass Erzieherinnen kleine Kameras am Körper tragen, die ihre Sicht im Kindergartenalltag aufzeichnen. Zusätzlich sollten fest installierte Kameras in den Gruppenräumen zum Einsatz kommen. Nachdem Eltern massive Datenschutzbedenken äußerten, musste man das Projekt mit den KI-Trainingsdaten einstellen.
Kameras im Kindergarten für KI-Forschung
Laut einem Informationsschreiben an die Eltern sollten die Aufnahmen „normale Interaktionen zwischen Lehrkräften und Kindern“ dokumentieren. Die Videos wären anschließend genutzt worden, um KI-Systeme zu trainieren, die später automatisch die Qualität von Unterricht und Betreuung bewerten sollen. Die Leiterin der geplanten Studie war Frau Professor Gail E. Joseph.
Die Universität plante dafür sowohl menschliche Auswerter als auch cloudbasierte KI-Dienste einzusetzen. Die Aufzeichnungen sollten bis zu viermal pro Monat jeweils bis zu 150 Minuten dauern.
Eltern kritisieren fehlende Transparenz
Besonders brisant: Das Projekt war als Opt-out-Modell angelegt. Eltern mussten aktiv widersprechen, wenn ihre Kinder nicht gefilmt und die Daten nicht für KI-Training verwendet werden sollten.
Genau dieser Punkt sorgte für heftige Kritik. Mehrere Eltern erklärten gegenüber 404 Media, sie hätten weder ausreichend Informationen über die Datennutzung noch über mögliche Drittanbieter erhalten. Eine Mutter zeigte sich laut Bericht „erschrocken“ darüber, dass das Abbild ihres Kindes in „unbekannten KI-Systemen“ landen könnte.
Zusätzlich kritisierte sie, dass viele Familien mit Migrationshintergrund die ausschließlich englischsprachigen Unterlagen kaum vollständig verstehen konnten. Laut Universität hätte bereits der Widerspruch einer einzigen Familie dazu geführt, dass die komplette Gruppe aus der Studie ausgeschlossen worden wäre.
Experten warnen vor unklarer Datennutzung der KI-Trainingsdaten
Auch Fachleute äußerten Zweifel an dem Vorhaben. Sie kritisierten unter anderem fehlende Angaben zur Speicherdauer der Daten, zu möglichen Weitergaben sowie zu zukünftigen Nutzungszwecken der Videoaufnahmen.
Besonders problematisch sei die Formulierung gewesen, dass man die Daten „nicht ausschließlich“ für die genannten Forschungsziele nutzen würde. Datenschützer sehen darin erhebliche Risiken für spätere, bislang nicht bekannte KI-Anwendungen.
Universität zieht Projekt zurück
Die University of Washington verteidigte das Vorhaben zunächst mit dem Hinweis, man wolle lediglich erforschen, wie Familien auf KI-gestützte Hilfsmittel im Bildungsbereich reagieren.
Nach den ersten Rückmeldungen zog die Universität jedoch die Reißleine. Sprecher Jackson Holtz erklärte gegenüber 404 Media, das Projekt sei inzwischen vollständig eingestellt worden. Kurz nach der Anfrage des Magazins verschwand auch die Projektseite von der Website der Universität.
