Auf der Suche nach einem Erntedankfest Tischgespräch, das weder Politik noch Profisport ist? Okay, reden wir über Killerroboter. Es ist ein Konzept, das vor langer Zeit von den Seiten der Science-Fiction in die Realität gesprungen ist, je nachdem, wie locker Sie eine Definition für „Roboter“ verwenden. Militärdrohnen aufgegeben Asimovs erstes Gesetz der Robotik – „Ein Roboter darf einen Menschen nicht verletzen oder durch Untätigkeit zulassen, dass ein Mensch zu Schaden kommt“ – vor Jahrzehnten.
Das Thema brodelt in letzter Zeit wieder aufgrund der zunehmenden Aussicht auf Killerroboter in der inländischen Strafverfolgung. Einer der bekanntesten Roboterhersteller der Ära, Boston Dynamics, hat einige rote Fahnen für die öffentliche Ordnung gehisst, als er 2019 auf unserer Bühne Aufnahmen seines Spot-Roboters zeigte, der im Rahmen von Trainingsübungen der Staatspolizei von Massachusetts eingesetzt wurde.
Die Roboter waren nicht bewaffnet, sondern Teil einer Übung, bei der festgestellt werden sollte, wie sie dazu beitragen könnten, die Beamten während einer Geisel- oder Terrorsituation aus dem Weg zu räumen. Aber die Aussicht, Roboter in Szenarien einzusetzen, in denen das Leben von Menschen unmittelbar gefährdet ist, reichte aus, um eine Anfrage der ACLU auszulösen, die gegenüber Tech sagte:
Wir brauchen dringend mehr Transparenz seitens der Regierungsbehörden, die offen gegenüber der Öffentlichkeit über ihre Pläne zum Testen und Einsetzen neuer Technologien sein sollten. Wir brauchen auch landesweite Regelungen zum Schutz der bürgerlichen Freiheiten, Bürgerrechte und Rassengerechtigkeit im Zeitalter der künstlichen Intelligenz.
Im vergangenen Jahr hat derweil die NYPD hat einen Deal abgebrochen mit Boston Dynamics nach einer starken öffentlichen Gegenreaktion, nachdem Bilder von Spot aufgetaucht waren, der als Reaktion auf eine Hausinvasion in der Bronx eingesetzt wurde.
Boston Dynamics seinerseits hat sich sehr lautstark gegen die Bewaffnung seiner Roboter ausgesprochen. Im vergangenen Monat unterzeichnete es zusammen mit anderen führenden Unternehmen wie Agility, ANYbotics, Clearpath Robotics und Open Robotics einen offenen Brief, in dem die Aktion verurteilt wurde. Es stellt fest:
Wir glauben, dass das Hinzufügen von Waffen zu Robotern, die ferngesteuert oder autonom betrieben werden, der Öffentlichkeit weithin zugänglich sind und in der Lage sind, zu zuvor unzugänglichen Orten zu navigieren, an denen Menschen leben und arbeiten, neue Schadensrisiken und ernsthafte ethische Probleme aufwirft. Bewaffnete Anwendungen dieser neu leistungsfähigen Roboter werden auch das Vertrauen der Öffentlichkeit in die Technologie in einer Weise beeinträchtigen, die den enormen Nutzen, den sie der Gesellschaft bringen werden, beeinträchtigt.
Es wurde angenommen, dass der Brief teilweise eine Antwort auf die Arbeit von Ghost Robotics mit dem US-Militär war. Als auf Twitter Bilder von einem ihrer eigenen Roboterhunde mit einem autonomen Gewehr gezeigt wurden, sagte die Firma aus Philadelphia gegenüber Tech, dass sie eine agnostische Haltung in Bezug auf die Art und Weise einnehme, wie die Systeme von ihren militärischen Partnern eingesetzt werden:
Wir machen nicht die Nutzlasten. Werden wir eines dieser Waffensysteme fördern und bewerben? Wahrscheinlich nicht. Das ist schwer zu beantworten. Da wir an das Militär verkaufen, wissen wir nicht, was sie damit machen. Wir werden unseren Regierungskunden nicht vorschreiben, wie sie die Roboter verwenden.
Wir ziehen die Grenze, wo sie verkauft werden. Wir verkaufen nur an US-amerikanische und alliierte Regierungen. Wir verkaufen unsere Roboter nicht einmal an Unternehmenskunden in konkurrenzfähigen Märkten. Wir erhalten viele Anfragen zu unseren Robotern in Russland und China. Wir versenden nicht dorthin, auch nicht für unsere Unternehmenskunden.
Boston Dynamics und Ghost Robotics sind derzeit in einen Rechtsstreit verwickelt, bei dem es um mehrere Patente geht.
Diese Woche, Meldestelle der örtlichen Polizei Mission Lokal tauchte erneut Besorgnis über Killerroboter auf – diesmal in San Francisco. Die Website stellt fest, dass ein Richtlinienvorschlag, der nächste Woche vom Aufsichtsrat der Stadt geprüft wird, Aussagen über Killerroboter enthält. Das „Politik für Strafverfolgungsausrüstung“ beginnt mit einer Bestandsaufnahme von Robotern, die sich derzeit im Besitz der San Francisco Police Department befinden.
Es gibt insgesamt 17 – von denen 12 funktionieren. Sie sind größtenteils für die Bombenerkennung und -entsorgung konzipiert – was bedeutet, dass keine speziell zum Töten entwickelt wurde.
„Die in diesem Abschnitt aufgeführten Roboter dürfen nicht außerhalb von Schulungen und Simulationen, kriminellen Festnahmen, kritischen Vorfällen, dringenden Umständen, der Vollstreckung eines Haftbefehls oder während verdächtiger Gerätebewertungen eingesetzt werden“, heißt es in der Richtlinie. Es fügt dann noch beunruhigender hinzu: „Roboter werden nur dann als tödliche Gewaltoption eingesetzt, wenn die Gefahr des Todes von Mitgliedern der Öffentlichkeit oder Beamten unmittelbar bevorsteht und jede andere der SFPD zur Verfügung stehende Gewaltoption überwiegt.“
Laut der Sprache können die Roboter tatsächlich zum Töten eingesetzt werden, um möglicherweise das Leben von Beamten oder der Öffentlichkeit zu retten. In diesem Zusammenhang scheint es vielleicht harmlos genug. Zumindest scheint es unter die gesetzliche Definition von zu fallen „gerechtfertigte“ tödliche Gewalt. Aber neue Bedenken ergeben sich aus einer scheinbar tiefgreifenden Änderung der Politik.
Zunächst einmal ist der Einsatz eines Bombenräumroboters zur Tötung eines Verdächtigen nicht ohne Präzedenzfall. Im Juli 2016 taten die Polizeibeamten von Dallas genau das für das, was angenommen wurde das erste Mal in der US-Geschichte. „Wir sahen keine andere Möglichkeit, als unseren Bombenroboter zu verwenden und ein Gerät an seiner Verlängerung anzubringen, damit er dort explodiert, wo sich der Verdächtige befand“, sagte Polizeichef David Brown damals.
Zweitens ist leicht zu erkennen, wie neue Präzedenzfälle in a verwendet werden könnten CYA-Szenario, wenn ein Roboter absichtlich oder versehentlich auf diese Weise verwendet wird. Drittens, und vielleicht am alarmierendsten, könnte man sich die Sprache vorstellen, die für den Erwerb eines zukünftigen Robotersystems gilt, das nicht nur für die Entdeckung und Entsorgung von Sprengstoffen ausgelegt ist.
Mission Local fügt hinzu, dass der Vorsitzende des Regelausschusses des Board of Supervisors von SF, Aaron Peskin, versuchte, die Asimov-freundlichere Zeile einzufügen: „Roboter dürfen nicht als Gewaltanwendung gegen Personen eingesetzt werden.“ Die SFPD hat offenbar Peskins Änderung durchgestrichen und auf die aktuelle Sprache aktualisiert.
Das erneute Gespräch über Killerroboter in Kalifornien ist zum Teil auf Assembly Bill 481 zurückzuführen. Das Gesetz wurde im September letzten Jahres von Gouverneur Gavin Newsom unterzeichnet und soll das Vorgehen der Polizei transparenter machen. Dazu gehört ein Inventar der von der Strafverfolgung verwendeten militärischen Ausrüstung.
Die 17 Roboter, die in dem Dokument von San Francisco enthalten sind, sind Teil einer längeren Liste, die auch die enthält Gepanzertes Fahrzeug Lenco BearCatBlendgranaten und 15 Maschinenpistolen.
Letzten Monat sagte die Polizei von Oakland es würde keine Zustimmung suchen für bewaffnete ferngesteuerte Roboter. Die Abteilung sagte in ein Statement:
Die Oakland Police Department (OPD) fügt der Abteilung keine bewaffneten ferngesteuerten Fahrzeuge hinzu. OPD nahm an Ad-hoc-Ausschussdiskussionen mit der Oakland Police Commission und Gemeindemitgliedern teil, um alle möglichen Verwendungen für das Fahrzeug zu erkunden. Nach weiteren Gesprächen mit dem Chief und dem Executive Team entschied die Abteilung jedoch, dass sie diese spezielle Option nicht länger prüfen wollte.
Die Erklärung folgte einer öffentlichen Gegenreaktion.
Die Zahnpasta ist schon aus der Tube zuerst Asimovs erstes Gesetz. Die Killerroboter sind da. Was das zweite Gesetz betrifft – „Ein Roboter muss den ihm von Menschen gegebenen Befehlen gehorchen“ – ist dies noch größtenteils in unserer Reichweite. Es liegt an der Gesellschaft zu bestimmen, wie sich ihre Roboter verhalten.