Neun von 12 Mitgliedern eines Ethikausschusses, der von Axon ernannt wurde, um seine Technologieentscheidungen zu beraten, sind unter Berufung auf die des Unternehmens zurückgetreten planen, mit Tasern ausgerüstete Drohnen und umfassende Überwachung an Schulen zu installieren. „Nach mehreren Jahren Arbeit hat das Unternehmen die Werte, die wir zu vermitteln versucht haben, grundlegend versäumt“, schreiben die scheidenden Mitglieder. „Wir haben das Vertrauen in die Fähigkeit von Axon verloren, ein verantwortungsbewusster Partner zu sein.“
Axon (ehemals Taser) hat sich in den letzten Jahren zu einem mächtigen Anbieter von Strafverfolgungssoftware und -hardware entwickelt und bietet nicht nur die bekannten und ehemals gleichnamigen Elektrowaffen, sondern auch Körperkameras und ganze digitale Plattformen für das Beweismanagement. Abgesehen von den inhärenten Risiken der Privatisierung solcher Dinge, war Axon mit seiner Technologie ziemlich überraschend nachdenklich und holte den Rat der Gemeinschaften ein, in denen diese Werkzeuge verwendet werden, sowie der Polizisten, die sie tragen oder einsetzen werden.
Das AI Ethics Board wurde vor einigen Jahren gegründet, als klar wurde, dass maschinelles Lernen ein äußerst wertvolles Werkzeug ist, aber auch eines, das leicht schlecht gebaut, missbräuchlich angewendet oder eine Kombination aus beidem sein kann. Das Gremium, eine Sammlung von Experten, Akademikern und Branchenfachleuten, würde eine mildernde Perspektive auf die Technologie bieten, die Schutzmaßnahmen, Rechenschaftspflichtmaßnahmen und so weiter vorschlug.
Es hatte einen guten Start, schrieben die ausscheidenden Mitglieder in einer Erklärung:
Jeder von uns ist diesem Vorstand in der Überzeugung beigetreten, dass wir die Richtung des Unternehmens so beeinflussen können, dass die Schäden, die die Polizeitechnologie anrichten kann, abgemildert und die Vorteile besser erfasst werden können. Eine Zeit lang haben wir diesen Einfluss in einigen von Axons Entscheidungen gesehen. Von der Nichtausstattung seiner Produkte mit Gesichtserkennungsfunktionen über die Rücknahme eines neuen Softwaretools zum Sammeln von Daten von Social-Media-Websites bis hin zur Förderung dringend benötigter Gesetze, um die Verwendung von Nummernschild-Lesegeräten unter Kontrolle zu bringen, haben wir greifbare Beweise für den Unterschied festgestellt, den wir haben machten.
Ich habe mich 2020 mit CEO Rich Smith unterhalten und festgestellt, dass er eine erfrischend ehrliche Meinung zu der Frage hatte, ob Technologie die Antwort auf eine anhaltende Polizeikrise ist.
„Technologie ist kein Allheilmittel. Es wird diese Probleme für uns nicht lösen“, sagte er. Aber ebenso wahr sei die Tatsache, dass einige dieser Probleme ohne Technologie unlösbar seien. Körperkameras und andere digitale Verfolgung von Polizeibegegnungen sind kein reines Gut, aber wie sollten wir sonst erwarten, dass solche Ereignisse systematisch aufgezeichnet werden? Diejenigen, die diese Tools definieren werden, sind nicht die Polizei, sondern die Unternehmen, die sie herstellen, und Axon hat sich bemüht, sich in diese Position zu versetzen.
Aber in letzter Zeit ist es möglicherweise zu weit gegangen, wie viel und welche Art von Technologie zur Abschreckung gegen Massenerschießungen eingesetzt werden sollte.
„[Axon] beabsichtigt, mit Tasern ausgestattete Drohnen zu entwickeln, sie in potenziellen Zielen für Massen- und Schulschießereien vorzupositionieren und diese Ziele in Überwachungskameras mit Echtzeit-Streaming-Fähigkeiten einzukreisen“, heißt es in dem Schreiben des Vorstands.
„Dem Vorstand wurde die Taser-Drohne als etwas, das pilotiert werden muss, vorgestellt und darüber beraten, mit strengen Kontrollen, weil es so viele Fragen über die Verwendung dieser Art von Ausrüstung zu beantworten gilt. Der Vorstand wurde jedoch sehr kurzfristig darüber informiert, dass Axon plante, dieses Tool als weit verbreitetes Konzept anzukündigen und damit die Vorsicht des AI Ethics Board vollständig zu umgehen“, sagte Mecole McBride, ehemaliges Vorstandsmitglied und Advocacy Director der NYU Polizeiprojekt Watchdog-Gruppe. „Wenn es so einfach wäre, den Vorstand bei so einer Tragweite zur Seite zu schieben, müssten wir uns fragen, was machen wir hier?“
Der Vorstand warnte Axon, dass es Rücktritte geben würde, wenn sie dies wie geplant weiterverfolgten. Es ging weiter – und sie kündigten.
Mit diesem und dem Aufschrei anderer in der Gemeinde, dass dies vielleicht nicht die angemessene Reaktion auf die Androhung von Massenerschießungen war, sagte Smith diesen Blogbeitrag verfasst zuzugeben, dass das Unternehmen sich vielleicht selbst überholt hat.
„Angesichts des Feedbacks unterbrechen wir die Arbeit an diesem Projekt und konzentrieren uns neu auf die weitere Zusammenarbeit mit wichtigen Interessengruppen, um den besten Weg nach vorne vollständig zu erkunden“, schrieb er. „Eine ferngesteuerte nicht-tödliche TASER-fähige Drohne in Schulen ist eine Idee, kein Produkt, und es ist noch ein langer Weg. Wir haben viel Arbeit und Erkundungen, um zu sehen, ob diese Technologie überhaupt realisierbar ist, und um zu verstehen, ob die Bedenken der Öffentlichkeit angemessen berücksichtigt werden können, bevor wir fortfahren.“
Er sagte auch, dass sie den Prozess des Sammelns alternativer Meinungen „verbessern“ würden, obwohl es, wie McBride betonte, sein bestehendes System überrollt zu haben scheint. Welche Verbesserungen würden sie daran hindern, das Gleiche in Zukunft mit jemandem zu tun, der eine rein beratende Funktion hat, während Falken in Entscheidungspositionen sitzen, egal wie gut besetzt er ist? Axon beantwortete keine Fragen zur Zukunft des Vorstands und verwies mich auf den oben genannten Beitrag.
Seltsamerweise behauptet Smith darin, dass die zurücktretenden Mitglieder des Ethikrates „beschlossen haben, sich von der direkten Auseinandersetzung mit diesen Themen zurückzuziehen, bevor wir ihre technischen Fragen gehört oder die Möglichkeit hatten, sie anzusprechen“.
Max Isaacs, ein Anwalt des Policing Project, der mit Axon und dem Vorstand an dieser Idee gearbeitet hat, erklärte jedoch, dass „der Ethikrat über ein Jahr mit Axon zusammengearbeitet hat, um die Parameter eines engen Pilotprogramms zu besprechen“, was Smiths Darstellung impliziert es rückwärts. „Der Bruch des Unternehmens gegen sein Versprechen, den Ethikrat zu konsultieren, bevor es solch bedeutsame Entscheidungen trifft, und seine Bereitschaft zur ständigen Massenüberwachung zeigen, dass Axon sich nicht ausreichend für die verantwortungsvolle Entwicklung dieser Technologie einsetzt“, sagte Isaacs. Er wiederholte in einer anderen Nachricht, dass sie Axon „flehten“, die Idee nicht an die Öffentlichkeit zu bringen.
Ein Axon-Vertreter erklärte, dass der Vorstand eine mit Taser ausgestattete Drohne für gewogen habe Polizei, nicht die „im öffentlichen Raum vorinstallierte“ und kurzzeitig für den Einsatz in Schulen vorgesehene. Es ist ein bisschen dünn als Deckmantel, um zu sagen, dass der Vorstand sich nicht eingewogen hat: Ihre Bedenken gegenüber Polizeieinsätzen müssen für Einsätze in Schulen sicherlich noch drängender gewesen sein. Und wie im Kündigungsschreiben vermerkt, gab Axon ihnen nicht viel Zeit, um zu antworten – oder, was wahrscheinlicher ist, wusste genau, wie die Antwort lauten würde.
Wie dem auch sei, der Taser-Drohne-Plan liegt auf Eis und Axon überlegt es sich vielleicht zweimal, bevor er sich mit einem Streichholz in der Hand in eine Pulverfass-Diskussion stürzt. Tech wird immer eine wichtige Rolle bei der Sicherheit und der Strafverfolgung spielen, aber es nützt niemandem etwas (und kann ernsthafte Auswirkungen haben), sich schneller zu bewegen, als wir denken können.