Im Rahmen einer gerichtlichen Einigung hat die Polizei von Detroit neuen Leitlinien zugestimmt, die den Einsatz von Gesichtserkennungstechnologie einschränken.
Diese neue Richtlinien verbietet der Polizei, Personen ausschließlich auf Grundlage der Ergebnisse einer Gesichtserkennungssuche oder der Ergebnisse von Fotoaufstellungen zu verhaften, die unmittelbar nach einer Gesichtserkennungssuche durchgeführt werden. Es heißt auch, dass Fotoaufstellungen nicht allein auf Grundlage der Gesichtserkennung durchgeführt werden dürfen – stattdessen müssen zusätzliche Beweise vorliegen, die einen Verdächtigen mit dem Verbrechen in Verbindung bringen.
Die Richtlinien, die in den nächsten vier Jahren gerichtlich durchgesetzt werden können, verlangen außerdem eine Schulung der Polizei in Bezug auf die Risiken und Gefahren der Gesichtserkennungstechnologie sowie eine Prüfung aller Fälle seit 2017, in denen Gesichtserkennung zur Erlangung eines Haftbefehls eingesetzt wurde.
Roger Williams, ein Schwarzer, der festgenommen wurde, nachdem er mithilfe einer Gesichtserkennungstechnologie identifiziert worden war, hatte die Polizei verklagt und wurde von Anwälten der American Civil Liberties Union und der Civil Rights Litigation Initiative der Law School der University of Michigan vertreten.
In Ankündigung Die ACLU beschrieb die Einigung als „die strengsten Richtlinien und Praktiken der Polizeibehörden des Landes, die den Einsatz dieser gefährlichen Technologie durch die Strafverfolgungsbehörden einschränken“. Sie stellte auch fest, dass Frauen und Menschen mit dunkler Hautfarbe „wesentlich häufiger durch Gesichtserkennungstechnologie falsch identifiziert werden“.
„Da sich dieses schmerzhafte Kapitel unseres Lebens dem Ende zuneigt, werden meine Frau und ich weiterhin das Bewusstsein für die Gefahren dieser Technologie schärfen“, sagte Williams in einer Erklärung.
Berichten zufolge verbrachte 30 Stunden im Gefängnis nachdem er fälschlicherweise als ein Mann identifiziert wurde, der auf Überwachungsvideos dabei gefilmt wurde, wie er fünf Uhren aus einem Geschäft in der Innenstadt von Detroit stahl. Sein Führerscheinfoto tauchte bei einer Gesichtserkennungssuche in einer Datenbank mit Fahndungsfotos und Führerscheinfotos auf, und der Sicherheitsdienstleister, der das Filmmaterial zur Verfügung gestellt hatte, stimmte zu, dass er die beste Übereinstimmung war, was zu seiner Verhaftung führte.
Die Staatsanwaltschaft ließ die Anklage später fallen. Die Polizeibehörde teilte mit, dass sie Williams im Rahmen des Vergleichs außerdem 300.000 Dollar zahlen werde.
In einer eigenen Stellungnahme äußerte sich die Polizeibehörde „zufrieden mit der Zusammenarbeit mit der ACLU und der University of Michigan in den letzten anderthalb Jahren“ und fügte hinzu, dass sie „fest davon überzeugt“ sei, dass die neue Richtlinie „als nationale Best Practice und Modell für andere Behörden dienen werde, die diese Technologie nutzen“.
Städte wie San Francisco haben den Einsatz von Gesichtserkennung durch die Polizei verboten. Auch Microsoft hat Polizeidienststellen kürzlich den Einsatz seiner KI-Technologie zur Gesichtserkennung untersagt.