Das US-Justizministerium heute angekündigt dass es eine Vereinbarung mit Meta, der Muttergesellschaft von Facebook, getroffen hat, um eine Klage beizulegen, in der Meta angeblich diskriminierende Werbung unter Verletzung des Fair Housing Act (FHA) betrieben hat. Der vorgeschlagene Vergleich unterliegt der Überprüfung und Genehmigung durch einen Bezirksrichter im südlichen Bezirk von New York, wo die Klage ursprünglich eingereicht wurde. Aber vorausgesetzt, es geht voran, Meta sagte dass es zugestimmt hat, ein neues System für Wohnungsanzeigen zu entwickeln und eine Strafe von rund 115.000 US-Dollar zu zahlen, die Höchststrafe nach dem FHA.
„Wenn ein Unternehmen eine Technologie entwickelt und einsetzt, die den Nutzern Wohngelegenheiten ganz oder teilweise auf der Grundlage geschützter Merkmale vorenthält, verstößt es gegen das Fair Housing Act, genauso wie wenn Unternehmen diskriminierende Werbung mit traditionelleren Werbemethoden betreiben“, so US-Anwalt Damian Williams sagte in einer Erklärung. „Aufgrund dieser bahnbrechenden Klage wird Meta – zum ersten Mal – sein Anzeigenlieferungssystem ändern, um algorithmische Diskriminierung anzugehen. Aber wenn Meta nicht nachweisen kann, dass es sein Liefersystem ausreichend geändert hat, um algorithmische Voreingenommenheit zu vermeiden, wird dieses Büro mit dem Rechtsstreit fortfahren.“
Die Klage war die erste herausfordernde algorithmische Voreingenommenheit des Justizministeriums unter der FHA, und es wurde behauptet, dass die Algorithmen, die Meta verwendet, um festzustellen, welche Facebook-Nutzer Wohnungsanzeigen erhalten, teilweise auf Merkmalen wie Rasse, Hautfarbe, Religion, Geschlecht, Behinderung, Familienstand und nationale Herkunft – die alle durch das FHA geschützt sind. Akademische Studien haben Beweise zur Unterstützung der Behauptungen des Justizministeriums geliefert, einschließlich einer 2020 Papier von Carnegie Mellon, die zeigte, dass Vorurteile in der Werbeplattform von Facebook die sozioökonomischen Ungleichheiten verschärften.
Meta sagte, dass es im Rahmen der Einigung mit dem Justizministerium die Verwendung eines Werbetools für Wohnungsanzeigen, Special Ad Audience, einstellen wird, das sich angeblich auf einen diskriminierenden Algorithmus stützte, um Benutzer zu finden, die auf der Grundlage von FHA-geschützten Merkmalen „wie“ andere Benutzer aussehen . Meta wird in den nächsten sechs Monaten auch ein neues System entwickeln, um laut einer Pressemitteilung „rassische und andere Unterschiede zu beheben, die durch die Verwendung von Personalisierungsalgorithmen in seinem Anzeigenlieferungssystem für Wohnungsanzeigen verursacht werden“, und das System bis zum 31. Dezember implementieren. 2022.
Ein unabhängiger externer Gutachter wird laufend untersuchen und verifizieren, ob das neue System von Meta die mit dem Unternehmen und dem Justizministerium vereinbarten Standards erfüllt. Meta muss das Justizministerium benachrichtigen, wenn beabsichtigt wird, in Zukunft Targeting-Optionen hinzuzufügen.
Wenn das Justizministerium zu dem Schluss kommt, dass das neue System die Diskriminierung nicht ausreichend angeht, wird der Vergleich beendet.