DOJ warnt davor, dass der Missbrauch algorithmischer Einstellungstools gegen Gesetze zur Barrierefreiheit verstoßen könnte – Tech

KI-Tools für den Einstellungsprozess sind zu einer heißen Kategorie geworden, aber das Justizministerium warnt davor, dass eine sorglose Verwendung dieser Prozesse zu Verstößen gegen US-Gesetze führen könnte, die den gleichen Zugang für Menschen mit Behinderungen schützen. Wenn Ihr Unternehmen algorithmische Sortierung, Gesichtsverfolgung oder andere High-Tech-Methoden zum Sortieren und Bewerten von Bewerbern verwendet, sollten Sie sich genauer ansehen, was sie tun.

Die Equal Employment Opportunity Commission der Abteilung, die Branchentrends und Maßnahmen in Bezug auf gleichnamige Angelegenheiten beobachtet und berät, hat herausgegebene Anleitung wie Unternehmen algorithmenbasierte Tools sicher einsetzen können, ohne den systematischen Ausschluss von Menschen mit Behinderungen zu riskieren.

„Neue Technologien sollten nicht zu neuen Formen der Diskriminierung werden. Wenn Arbeitgeber wissen, wie KI und andere Technologien Menschen mit Behinderungen diskriminieren können, können sie Maßnahmen ergreifen, um dies zu verhindern“, sagte EEOC-Vorsitzende Charlotte A. Burrows im Pressemitteilung Ankündigung der Führung.

Der allgemeine Sinn der Anleitung besteht darin, gründlich darüber nachzudenken (und die Meinung der betroffenen Gruppen einzuholen), ob diese Filter, Tests, Metriken usw. Qualitäten oder Quantitäten messen, die für die Ausführung der Arbeit relevant sind. Sie bieten einige Beispiele:

• Ein Bewerber mit einer Sehbehinderung muss einen Test oder eine Aufgabe mit einer visuellen Komponente absolvieren, um sich für ein Vorstellungsgespräch, z. B. ein Spiel, zu qualifizieren. Wenn der Job keine visuelle Komponente hat, werden blinde Bewerber unfairerweise ausgeschlossen.
• Ein Chatbot-Screener stellt schlecht formulierte oder schlecht gestaltete Fragen, z. B. ob eine Person mehrere Stunden am Stück stehen kann, wobei „Nein“-Antworten den Bewerber disqualifizieren. Ein Mensch im Rollstuhl könnte sicherlich viele Arbeiten, für die manche vielleicht stehen, nur im Sitzen erledigen.
• Ein KI-basierter Lebenslaufanalysedienst stuft eine Bewerbung aufgrund einer Beschäftigungslücke herab, aber diese Lücke kann auf Gründe zurückzuführen sein, die mit einer Behinderung oder einem Zustand zusammenhängen, für den es unangemessen ist, ihn zu bestrafen.
• Ein automatisierter, sprachbasierter Screener verlangt von den Bewerbern, auf Fragen zu antworten oder Probleme zu testen. Davon ausgenommen sind natürlich Gehörlose und Schwerhörige sowie Menschen mit Sprachstörungen. Wenn die Arbeit nicht viel Rede beinhaltet, ist dies unangemessen.
• Ein Gesichtserkennungsalgorithmus wertet die Emotionen einer Person während eines Videointerviews aus. Aber die Person ist neurodivergent oder leidet aufgrund eines Schlaganfalls an einer Gesichtslähmung; Ihre Werte werden Ausreißer sein.

Das soll nicht heißen, dass keines dieser Tools oder Methoden falsch oder grundsätzlich diskriminierend in einer Weise ist, die gegen das Gesetz verstößt. Unternehmen, die sie verwenden, müssen jedoch ihre Grenzen erkennen und angemessene Vorkehrungen treffen, falls ein Algorithmus, ein maschinelles Lernmodell oder ein anderer automatisierter Prozess für die Verwendung mit einem bestimmten Kandidaten ungeeignet ist.

Zugängliche Alternativen zu haben, gehört dazu, aber auch den Einstellungsprozess transparent zu gestalten und im Voraus zu erklären, welche Fähigkeiten getestet werden und wie. Menschen mit Behinderungen können am besten beurteilen, was ihre Bedürfnisse sind und welche Vorkehrungen, falls vorhanden, anzufordern sind.

Wenn ein Unternehmen keine angemessenen Vorkehrungen für diese Prozesse trifft oder bereitstellen kann – und ja, das schließt Prozesse ein, die von Dritten entwickelt und betrieben werden –, kann es für dieses Versäumnis verklagt oder anderweitig zur Rechenschaft gezogen werden.

Wie üblich, je früher so etwas in Betracht gezogen wird, desto besser; Wenn Ihr Unternehmen sich noch nicht mit einem Experten für Barrierefreiheit zu Themen wie Personalbeschaffung, Website- und App-Zugriff sowie internen Tools und Richtlinien beraten hat, sollten Sie sich darum kümmern.

In der Zwischenzeit können Sie Lesen Sie hier die vollständigen Leitlinien des DOJmit einer Kurzfassung für Arbeitnehmer, die sich möglicherweise diskriminiert fühlen hierund aus irgendeinem Grund gibt es eine weitere verkürzte Version der Anleitung hier.