Amazon wird es tun der FTC eine Strafe in Höhe von 25 Millionen US-Dollar zahlen Außerdem „überarbeiten wir seine Löschpraktiken und implementieren strenge Datenschutzmaßnahmen“, um Anklagen wegen Verstößen gegen das Children’s Online Privacy Protection Act zu vermeiden und seine KI zu verbessern.
Amazons Sprachschnittstelle Alexa ist seit Jahren in Haushalten auf der ganzen Welt im Einsatz, und alle Eltern, die eine solche haben, wissen, dass Kinder gerne damit spielen, Witze erzählen lassen und sie sogar für den vorgesehenen Zweck verwenden, was auch immer das ist. Tatsächlich war es für Kinder, die nicht schreiben können oder eine Behinderung haben, so offensichtlich nützlich, dass die FTC die COPPA-Regeln lockerte, um eine angemessene Nutzung zu ermöglichen: Bestimmte dienstspezifische Analysen von Kinderdaten, wie etwa Transkription, waren erlaubt, solange sie nicht gespeichert werden länger als vernünftigerweise notwendig.
Es scheint, dass Amazon den „vernünftigerweise notwendigen“ Zeitrahmen recht weit gefasst hat und die Sprachdaten von Kindern mehr oder weniger für immer aufbewahrt. Wie die FTC es ausdrückt:
Amazon habe die Aufzeichnungen von Kindern auf unbestimmte Zeit aufbewahrt – es sei denn, ein Elternteil habe die Löschung dieser Informationen beantragt, heißt es in der Beschwerde. Und selbst als ein Elternteil versuchte, diese Informationen zu löschen, versäumte Amazon es, Transkripte dessen, was Kinder sagten, aus allen seinen Datenbanken zu löschen, so die FTC.
Geolokalisierungsdaten wurden auch nicht gelöscht, ein Problem, das das Unternehmen „wiederholt nicht beheben konnte“.
Das geht schon seit Jahren so – die FTC behauptet, dass Amazon bereits 2018 davon wusste, aber erst im September nächsten Jahres Maßnahmen ergriff, nachdem die Behörde ihnen einen hilfreichen Anstoß gegeben hatte.
Ein solcher Zeitpunkt weist normalerweise darauf hin, dass ein Unternehmen diese Praxis für immer beibehalten hätte. Offenbar wurden einige dieser Praktiken aufgrund „fehlerhafter Korrekturen und Prozessfiaskos“ bis 2022 fortgesetzt!
Sie fragen sich vielleicht: Welchen Sinn hat es, eine Reihe von Aufnahmen von Kindern zu haben, die mit Alexa sprechen? Wenn Sie planen, dass Ihre Sprachschnittstelle häufig mit Kindern spricht, ist es sicherlich hilfreich, über eine geheime Datenbank mit Audiointeraktionen zu verfügen, auf deren Grundlage Sie Ihre Modelle für maschinelles Lernen trainieren können. Damit begründete die FTC die Aufbewahrung dieser Daten durch Amazon.
Die FTC-Kommissare Bedoya und Slaughter sowie der Vorsitzende Khan verfassten eine dem Vergleichsvorschlag und der Beschwerde beigefügte Erklärung, in der sie insbesondere auf diesen einen Punkt aufmerksam machten:
Die Kommission behauptet, Amazon habe die Daten von Kindern auf unbestimmte Zeit aufbewahrt, um seinen Spracherkennungsalgorithmus weiter zu verfeinern. Amazon ist offenbar nicht der Einzige, der versucht, Daten zu sammeln, um seine Modelle für maschinelles Lernen zu verfeinern; Gerade jetzt, mit dem Aufkommen großer Sprachmodelle, strebt die gesamte Technologiebranche danach, dasselbe zu tun.
Die heutige Einigung sendet eine Botschaft an alle diese Unternehmen: Maschinelles Lernen ist keine Entschuldigung, um gegen das Gesetz zu verstoßen. Behauptungen von Unternehmen, dass Daten auf unbestimmte Zeit aufbewahrt werden müssen, um Algorithmen zu verbessern, setzen gesetzliche Verbote der unbefristeten Aufbewahrung von Daten nicht außer Kraft. Die Daten, die Sie zur Verbesserung Ihrer Algorithmen verwenden, müssen rechtmäßig erfasst und aufbewahrt werden. Unternehmen tun gut daran, diese Lektion zu beherzigen.
Heute haben wir also die Strafe in Höhe von 25 Millionen US-Dollar, was für ein Unternehmen der Größe Amazons natürlich nicht unerheblich ist. Es ist eindeutig die Einhaltung der anderen Bestimmungen der vorgeschlagenen Verordnung, die ihnen wahrscheinlich Kopfschmerzen bereiten wird. Die FTC sagt, die Anordnung würde:
- Verbieten Sie Amazon die Verwendung von Geolokalisierung, Sprachinformationen und Sprachinformationen von Kindern vorbehaltlich der Löschungsanfragen von Verbrauchern für die Erstellung oder Verbesserung eines Datenprodukts.
- Fordern Sie das Unternehmen auf, inaktive Alexa-Konten von Kindern zu löschen.
- Fordern Sie Amazon auf, Benutzer über die Maßnahmen des FTC-DOJ gegen das Unternehmen zu informieren.
- Fordern Sie Amazon auf, Benutzer über seine Aufbewahrungs- und Löschpraktiken und -kontrollen zu informieren.
- Verbieten Sie Amazon, seine Datenschutzrichtlinien in Bezug auf Geolokalisierung, Stimme und Stimminformationen von Kindern falsch darzustellen.
- Fordern Sie die Erstellung und Implementierung eines Datenschutzprogramms im Zusammenhang mit der Nutzung von Geolokalisierungsinformationen durch das Unternehmen an.
Diese Einigung und Klage ist völlig unabhängig von der anderen heute angekündigten Einigung der FTC mit der Amazon-Tochter Ring. Es besteht jedoch ein gewisser roter Faden, dass „grundlegende Datenschutz- und Sicherheitsmaßnahmen nicht umgesetzt werden“.
In einer Erklärung sagte Amazon: „Obwohl wir mit den Behauptungen der FTC nicht einverstanden sind und einen Gesetzesverstoß bestreiten, ist die Angelegenheit mit dieser Einigung hinter uns.“ Sie versprechen außerdem, „Kinderprofile zu entfernen, die seit mehr als 18 Monaten inaktiv sind“, was unglaublich lang erscheint, um diese Daten aufzubewahren. Ich habe im Anschluss Fragen zu dieser Dauer gestellt und gefragt, ob die Daten für das ML-Training verwendet werden, und werde sie aktualisieren, wenn ich etwas höre.