Die US General Services Administration, die Technologie für Dinge wie Regierungswebsites und Online-Dienste beschafft und untersucht, unternimmt in ihrem kürzlich veröffentlichten Equity Action Plan einen zweigleisigen Vorstoß für Barrierefreiheit. Websites müssen über das Nötigste hinaus zugänglich gemacht werden, hieß es, und die Voreingenommenheit bei Gesichtserkennungssystemen bedeutet, dass die FBI dies nach Möglichkeit vermeiden wird.
Der Aktionsplan ist das Ergebnis einer kleinen Selbstprüfung bei der GSA, die „Equity-Bewertungen durchgeführt und eine Reihe von Maßnahmen für drei Schwerpunktbereiche mit großer Wirkung identifiziert hat“, von denen einer „Bundestechnologiedesign und -bereitstellung“ ist.
„Diejenigen, die am dringendsten staatliche Dienstleistungen benötigen, werden oft die größten Schwierigkeiten haben, darauf zuzugreifen“, heißt es in der Einleitung des Memos. „Wir haben uns Maßnahmen verschrieben, die eine gerechte Benutzererfahrung als zentrales Designprinzip priorisieren, algorithmische Verzerrungen abschwächen, die digitale Zugänglichkeit verbessern und die Bereitstellung von Regierungsdiensten für das amerikanische Volk modernisieren.“
Zu diesem Zweck identifizierte die GSA zwei Hauptprobleme bei dem jüngsten Ansatz zur Bereitstellung dieser Dienste.
Eine davon ist eine unzureichende Verpflichtung zur Zugänglichkeit, oder besser ausgedrückt als eine feste Verpflichtung zur bloßen Einhaltung und Nichterfüllung der Bedürfnisse der Gemeinschaft.
„Häufig haben Regierungsanwendungen und Websites nur eine minimale sprachliche Zugänglichkeit, verwirrende Navigation und schlechte Designpraktiken, was zu Misstrauen und Frustration bei den Benutzern führt“, heißt es in der Bewertung der GSA. Insbesondere wurde festgestellt, dass sich die Gewohnheiten sehbehinderter Benutzer, die sich auf Screenreader verlassen, von den Annahmen unterscheiden, die bei der Gestaltung von Regierungsseiten getroffen wurden. Grundlegende Aufgaben wie Anmeldungen und Kontoüberprüfungen berücksichtigen diese allgemeinen Auswahlmöglichkeiten möglicherweise nicht oder erfordern Tools (z. B. die Verwendung des Cursors), die Benutzern häufig nicht zur Verfügung stehen.
Um dies zu verbessern, sagt die GSA, dass sie Usability-Tests mit Communities ausweiten wird, die im Designprozess unterrepräsentiert waren. (Wie mir Befürworter der Barrierefreiheit immer wieder gesagt haben, müssen diese Gemeinschaften von Anfang an einbezogen werden, sonst wird das Ergebnis genau das sein, was die Agentur oben beschrieben hat.)
Es wird auch daran arbeiten, die Leistung von Websites auf alten Computern, Telefonen und Geräten mit begrenzter Bandbreite zu verbessern.
Das zweite Problem ist, dass Gesichtserkennungsdienste rassistisch voreingenommen sind. Dies wird die Leser dieser Website wahrscheinlich nicht überraschen, aber die Beschaffungs- und Bereitstellungsprozesse der Regierung sind langsam und seltsam, daher ist es nicht völlig überraschend, dass die FBI erst jetzt aufholen wird, wovor die Tech-Community seit Jahren warnt .
„Durch unsere eigenen Tests erfuhr die GSA, dass große kommerzielle Implementierungen des Gesichtsabgleichs unverhältnismäßig hohe „False Rejection Rates“ für Afroamerikaner aufwiesen“, heißt es in dem Memo, wobei zumindest darauf hingewiesen wird, dass dies mit dem größeren Forschungsbestand in diesem Bereich übereinstimmt.
Sein Ansatz hier:
Diskriminierung in neuen Technologien und Datensouveränität angehen. Um einer heterogenen Bevölkerung eine gerechte Remote-Identitätsüberprüfung zu ermöglichen, wird das Team von Login.gov von GSA Forschungsstudien zu Gerechtigkeit und Voreingenommenheit bei Diensten zum Abgleich von Gesichtern durchführen. Darüber hinaus wird die GSA bei den von ihr veröffentlichten Benutzerhandbüchern eine Gerechtigkeitsperspektive anwenden, die sich auf regierungsweite und branchenweite Best Practices auswirkt.
Frustrierend vage, aber eine breite Antwort kann sowohl auf systemische Veränderungen als auch auf Lippenbekenntnisse hinweisen. Weitere Forschungen zu Voreingenommenheit bei Gesichtserkennungsdiensten werden mit ziemlicher Sicherheit der akademischen und industriellen Forschung um Jahre hinterherhinken, aber die GSA möchte sich wahrscheinlich als uneigennützige Partei zitieren können.
Die „Equity-Linse“ mag hilfreich sein oder auch nicht, aber man hofft, dass es wie in so vielen Unternehmen und Branchen einige Leute gibt, die seit Jahren auf Probleme in dieser Richtung hinweisen und niemanden dazu bringen können, zuzuhören. Vielleicht ist dies eine Gelegenheit, diesen Stimmen die Aufmerksamkeit zu schenken, die sie verdienen.
Die GSA listet im vollständigen Dokument auch viele weitere Möglichkeiten auf, wie sie die Zugänglichkeit und Gerechtigkeit verbessern kann. die Sie hier herunterladen können oder siehe unten.