In einer Klage von zwei Fahrern, deren Konten vom Ride-Hailing-Riesen gekündigt wurden, wurde festgestellt, dass Uber gegen die algorithmischen Transparenzanforderungen der Europäischen Union verstoßen hat, unter anderem durch die Verwendung automatisierter Kontokennzeichnungen.
Uber konnte das Gericht auch nicht davon überzeugen, die täglichen Bußgelder auf 4.000 Euro zu begrenzen, die wegen anhaltender Nichteinhaltung verhängt werden – die inzwischen über einer halben Million Euro (584.000 Euro) liegen.
Das Amsterdamer Bezirksgericht hat zugunsten von zwei der Fahrer entschieden, die wegen des von ihnen als „Robo-Firings“ bezeichneten Datenzugriffs streiten. Das Berufungsgericht entschied jedoch, dass Uber einem dritten Fahrer ausreichende Informationen zu den Gründen zur Verfügung gestellt hatte, warum sein Algorithmus das Konto als potenziellen Betrug markierte.
Die Fahrer verklagen Uber, um Informationen zu erhalten, zu denen sie ihrer Ansicht nach gesetzlich verpflichtet sind, und zwar hinsichtlich wichtiger automatisierter Entscheidungen, die über sie getroffen werden.
Die Datenschutz-Grundverordnung (DSGVO) der Europäischen Union sieht sowohl ein Recht für Einzelpersonen vor, nicht ausschließlich automatisierten Entscheidungen mit rechtlichen oder erheblichen Auswirkungen unterworfen zu werden, als auch das Recht, Informationen über eine solche algorithmische Entscheidungsfindung zu erhalten, einschließlich des Erhalts „aussagekräftiger Informationen“ darüber Logik beteiligt; seine Bedeutung; und voraussichtliche Folgen der Verarbeitung für die betroffene Person.
Der Kern des Problems bezieht sich nicht auf Betrugs- und/oder Risikoüberprüfungen, die angeblich von (menschlichen) Uber-Mitarbeitern an gekennzeichneten Fahrerkonten durchgeführt wurden – sondern auf die automatisierten Kontokennzeichnungen selbst, die diese Überprüfungen auslösten.
Bereits im April entschied ein Berufungsgericht in den Niederlanden ebenfalls weitgehend zugunsten von Plattformarbeitern, die gegen Uber und eine andere Ride-Hailing-Plattform, Ola, wegen Datenzugriffsrechten im Zusammenhang mit angeblichem Robo-Firing klagen – und entschieden, dass sich die Plattformen nicht auf Ausnahmen von Geschäftsgeheimnissen berufen können Fahrern den Zugriff auf Daten über solche KI-gestützten Entscheidungen verweigern.
Gemäß dem jüngsten Urteil versuchte Uber, ein Geschäftsgeheimnis-Argument wieder aufzuwärmen, um sich dagegen auszusprechen, den Fahrern mehr Daten über die Gründe offenzulegen, warum seine KIs ihre Konten markiert haben. Das Unternehmen argumentiert außerdem allgemein, dass seine Betrugsbekämpfungssysteme nicht funktionieren würden, wenn den Fahrern vollständige Informationen über ihre Funktionsweise zur Verfügung gestellt würden.
Im Fall von zwei der Fahrer, die sich gegen die Argumente von Uber durchsetzten, wurde festgestellt, dass das Unternehmen überhaupt keine Informationen über die „ausschließlich“ automatisierten Markierungen bereitgestellt hatte, die Kontoüberprüfungen auslösten. Daher die Feststellung eines anhaltenden Verstoßes gegen die EU-Vorschriften zur algorithmischen Transparenz.
Der Richter spekulierte weiter, Uber versuche möglicherweise „absichtlich“, bestimmte Informationen zurückzuhalten, weil das Unternehmen keinen Einblick in sein Geschäfts- und Umsatzmodell geben wolle.
Im Fall des anderen Fahrers, für den das Gericht umgekehrt feststellte, dass Uber dies getan hatte laut Urteil „klare und vorerst ausreichende Informationen“ bereitgestellt, Das Unternehmen erklärte, dass der Entscheidungsprozess, der die Flagge auslöste, begonnen habe mit einer automatisierten Regel, die (i) die Anzahl der stornierten Fahrten untersuchte, für die dieser Fahrer eine Stornogebühr erhielt; (ii) die Anzahl der durchgeführten Fahrten; und (iii) das Verhältnis der Anzahl der stornierten und durchgeführten Fahrten des Fahrers in einem bestimmten Zeitraum.
„Das wurde weiter erklärt, weil [this driver] „Wenn er innerhalb eines kurzen Zeitraums unverhältnismäßig viele Fahrten durchführte, für die er eine Stornogebühr erhielt, deutete die automatisierte Regelung auf einen potenziellen Stornogebührenbetrug hin“, schrieb das Gericht außerdem in dem Urteil [which is translated into English using machine translation].
Der Fahrer hatte Uber um weitere Informationen gebeten und argumentiert, die bereitgestellten Daten seien noch unklar oder zu kurz und nicht aussagekräftig, da er nicht wisse, wo die Grenze liegt, an der Uber einen Fahrer als Betrüger bezeichnen kann.
In diesem Fall stimmte der Richter für vorläufigen Rechtsschutz jedoch mit Uber darin überein, dass der Fahrdienstleister diese zusätzlichen Informationen nicht bereitstellen musste, da dies, wie Uber es ausdrückte, „einen ungestraften Betrug bis knapp unter diese Quote kinderleicht“ machen würde.
Die umfassendere Frage, ob Uber diesen Fahrer (oder die beiden anderen) zu Recht als Betrüger eingestuft hat, wurde zu diesem Zeitpunkt des Rechtsstreits noch nicht beurteilt.
Der langjährige Rechtsstreit in den Niederlanden scheint darauf hinzuarbeiten, herauszufinden, wo die Grenze liegen könnte, wenn es darum geht, wie viele Informationen Plattformen, die algorithmisches Management für Arbeitnehmer einsetzen, ihnen auf Anfrage gemäß den EU-Datenschutzbestimmungen zur Verfügung stellen müssen, und wie viel „Blackboxing“ davon Sie behaupten, dass ihre KIs notwendig sind, um Details zu verfälschen, damit Anti-Betrugs-Systeme nicht durch Treiber-Reverse-Engineering manipuliert werden können.
Um eine Antwort auf das Urteil zu erhalten, schickte ein Uber-Sprecher folgende Erklärung an Tech:
Das Urteil betraf drei Fahrer, die vor einigen Jahren aufgrund ganz besonderer Umstände den Zugriff auf ihre Konten verloren hatten. Als die Konten dieser Fahrer gemeldet wurden, wurden sie von unseren Vertrauens- und Sicherheitsteams überprüft, die speziell darauf geschult sind, Verhaltensweisen zu erkennen, die möglicherweise die Sicherheit der Fahrer beeinträchtigen könnten. Das Gericht bestätigte, dass der Überprüfungsprozess von unseren menschlichen Teams durchgeführt wurde, was gängige Praxis ist, wenn unsere Systeme potenziell betrügerisches Verhalten erkennen.
Als Treiber des Rechtsstreits gelten die Organisation Worker Info Exchange (WIE), die sich für Datenzugriffsrechte einsetzt, und die Gewerkschaft App Drivers & Couriers.
In einer Erklärung sagte Anton Ekker von Ekker Law, der die Autofahrer vertritt: „Fahrer kämpfen seit mehreren Jahren um ihr Recht auf Informationen zu automatischen Deaktivierungen. Das Berufungsgericht Amsterdam hat dieses Recht in seinem Grundsatzurteil vom 4. April 2023 bestätigt. Es ist höchst verwerflich, dass Uber sich bisher geweigert hat, der Anordnung des Gerichts nachzukommen. Ich bin jedoch davon überzeugt, dass sich letztlich der Grundsatz der Transparenz durchsetzen wird.“
In einer Stellungnahme zum Urteil fügte James Farrar, Direktor von WIE, hinzu: „Ob es sich um den Obersten Gerichtshof des Vereinigten Königreichs für Arbeitnehmerrechte oder den niederländischen Berufungsgerichtshof für Datenschutzrechte handelt, Uber missachtet regelmäßig das Gesetz und widersetzt sich den Anordnungen sogar.“ die höchsten Gerichte. Uber-Fahrer und -Kurier sind erschöpft von jahrelanger gnadenloser algorithmischer Ausbeutung bei der Arbeit und erbitterten Rechtsstreitigkeiten, um einen Anschein von Gerechtigkeit zu erreichen, während Regierung und lokale Aufsichtsbehörden sich zurücklehnen und nichts unternehmen, um die Regeln durchzusetzen. Stattdessen ist die britische Regierung damit beschäftigt, die wenigen Schutzmaßnahmen abzubauen, die Arbeitnehmer im Gesetz über Datenschutz und digitale Informationen, das derzeit dem Parlament vorliegt, gegen die automatisierte Entscheidungsfindung bieten. Ebenso wird die vorgeschlagene EU-Plattformarbeitsrichtlinie ein sinnloser Papiertiger sein, wenn die Regierungen es nicht ernst meinen, die Regeln durchzusetzen.“