Ritenhilfe ist gewesen verboten fünf Jahre lang von der Verwendung von Gesichtserkennungssoftware ausgeschlossen, nachdem die Federal Trade Commission (FTC) festgestellt hatte, dass der „rücksichtslose Einsatz von Gesichtsüberwachungssystemen“ durch den US-Drogerieriesen die Kunden gedemütigt und ihre „sensiblen Informationen gefährdet“ habe.
Die FTCs Befehldie nach Rite Aid der Genehmigung des US-amerikanischen Insolvenzgerichts bedarf beantragte Insolvenzschutz nach Kapitel 11 im Oktober weist Rite Aid außerdem an, alle Bilder zu löschen, die es im Rahmen der Einführung seines Gesichtserkennungssystems gesammelt hat, sowie alle Produkte, die aus diesen Bildern erstellt wurden. Das Unternehmen muss außerdem ein robustes Datensicherheitsprogramm implementieren, um alle erfassten personenbezogenen Daten zu schützen.
Ein Reuters Bericht aus dem Jahr 2020 detailliert, wie die Drogeriekette ab 2012 über einen Zeitraum von acht Jahren heimlich Gesichtserkennungssysteme in rund 200 US-Filialen eingeführt hatte, wobei „weitgehend einkommensschwache, nicht weiße Viertel“ als Testumgebung für die Technologie dienten.
Mit der Zunahme der FTC Der Schwerpunkt liegt auf dem Missbrauch der biometrischen Überwachung, Rite Aid geriet fest ins Fadenkreuz der Regierungsbehörde. Zu den Vorwürfen gehört, dass Rite Aid – in Zusammenarbeit mit zwei Vertragsunternehmen – eine „Watchlist-Datenbank“ erstellt hat, die Bilder von Kunden enthält, von denen das Unternehmen sagte, dass sie in einem seiner Geschäfte an kriminellen Aktivitäten beteiligt waren. Diese Bilder, die oft von schlechter Qualität waren, wurden von Überwachungskameras oder den Mobiltelefonkameras der Mitarbeiter aufgenommen.
Wenn ein Kunde ein Geschäft betrat, der angeblich mit einem vorhandenen Bild in der Datenbank übereinstimmte, erhielten die Mitarbeiter eine automatische Benachrichtigung, die sie zum Handeln aufforderte – und in den meisten Fällen bestand diese Anweisung darin, sich „anzunähern und sich zu identifizieren“, also die Identität des Kunden zu überprüfen und fordert sie auf zu gehen. Bei diesen „Übereinstimmungen“ handelte es sich häufig um falsch positive Ergebnisse, die dazu führten, dass Mitarbeiter Kunden fälschlicherweise Fehlverhalten vorwarfen, was laut FTC zu „Peinlichkeiten, Belästigungen und anderem Schaden“ führte.
„Mitarbeiter folgten aufgrund falscher positiver Warnungen Verbrauchern in den Geschäften, durchsuchten sie, befahlen ihnen das Verlassen, riefen die Polizei, um Verbraucher zu konfrontieren oder zu entfernen, und beschuldigten sie öffentlich, manchmal vor Freunden oder der Familie, des Ladendiebstahls oder anderen Fehlverhaltens.“ “, heißt es in der Beschwerde.
Darüber hinaus erklärte die FTC, dass Rite Aid es versäumt habe, die Kunden über den Einsatz von Gesichtserkennungstechnologie zu informieren, die Mitarbeiter aber auch ausdrücklich dazu anwies nicht Geben Sie diese Informationen nicht an Kunden weiter.
Konfrontation
Gesichtserkennungssoftware hat sich zu einem der umstrittensten Aspekte des Zeitalters der KI-gestützten Überwachung entwickelt. In den letzten Jahren haben wir erlebt, dass Städte umfassende Verbote dieser Technologie erlassen haben, während Politiker dafür gekämpft haben, die Art und Weise, wie die Polizei sie nutzt, zu regulieren. Und Unternehmen wie Clearview AI wurden inzwischen weltweit mit Klagen und Geldstrafen wegen schwerwiegender Datenschutzverletzungen im Zusammenhang mit Gesichtserkennungstechnologien konfrontiert.
Die neuesten Erkenntnisse der FTC zu Rite Aid werfen auch ein Licht auf die inhärenten Vorurteile von KI-Systemen. Die FTC sagt beispielsweise, dass Rite Aid es nicht geschafft habe, die Risiken für bestimmte Verbraucher aufgrund ihrer Rasse zu mindern – seine Technologie sei „wahrscheinlicher, in Geschäften in mehrheitlich schwarzen und asiatischen Gemeinschaften Fehlalarme zu generieren als in mehrheitlich weißen Gemeinschaften“, so die FTC Feststellungshinweis.
Darüber hinaus erklärte die FTC, dass Rite Aid es versäumt habe, die Genauigkeit seines Gesichtserkennungssystems vor oder nach dem Einsatz zu testen oder zu messen.
In einem PressemitteilungRite Aid sagte, es sei „erfreut, eine Einigung mit der FTC zu erzielen“, sei jedoch mit dem Kern der Vorwürfe nicht einverstanden.
„Die Vorwürfe beziehen sich auf ein Pilotprogramm zur Gesichtserkennungstechnologie, das das Unternehmen in einer begrenzten Anzahl von Geschäften eingesetzt hat“, sagte Rite Aid in seiner Erklärung. „Rite Aid hat den Einsatz der Technologie in dieser kleinen Gruppe von Filialen vor mehr als drei Jahren eingestellt, bevor die Untersuchung der FTC bezüglich des Einsatzes der Technologie durch das Unternehmen begann.“