Gesetzgeber in Massachusetts erwägen Gesetzentwurf zum „Killerroboter“.

Zurück Mitte September, brachten zwei Abgeordnete aus Massachusetts einen Gesetzentwurf ein, „um den verantwortungsvollen Einsatz fortschrittlicher Robotertechnologien sicherzustellen“. Im einfachsten und direktesten Sinne bedeutet dies eine Gesetzgebung, die die Herstellung, den Verkauf und den Einsatz bewaffneter Roboter verbietet.

Es ist aus mehreren Gründen ein interessanter Vorschlag. Das erste ist ein allgemeiner Mangel an bundesstaatlichen und nationalen Gesetzen in den USA, die solche wachsenden Bedenken regeln. Es ist eines dieser Dinge, die sich so sehr wie Science-Fiction angefühlt haben, dass viele Gesetzgeber kein Interesse daran hatten, es auf pragmatische Weise weiterzuverfolgen.

Natürlich ist es nicht nur Science-Fiction und das schon lange nicht mehr. Um es ganz klar auszudrücken: Die Vereinigten Staaten setzen seit mehr als 20 Jahren Roboter (Drohnen) ein, um Menschen zu töten. Aber so krass das auch klingen mag, die Menschen tendieren dazu, diese Technologien ganz anders zu sehen, wenn es um ihren eigenen Garten geht.

Die Besorgnis über „Killerroboter“ ist jedoch weitaus umfassender als nur militärische Anwendungen. Einige basieren tatsächlich immer noch auf den typischen Terminatoren; Ich, Roboter; und Fünf Nächte bei Freddy’s. Andere sind weitaus bodenständiger. Erinnern Sie sich noch an die Zeit, als MSCHF eine Paintballpistole an einem Spot montierte, um ein Zeichen zu setzen? Wie wäre es mit all den Bildern von Geisterrobotern mit Scharfschützengewehren?

Auch wenn es immer noch nicht alltäglich ist, gibt es auch einen Präzedenzfall dafür, dass Polizisten Roboter zum Töten einsetzen. Die Woche des Unabhängigkeitstages 2016, die Polizei von Dallas tötete einen Verdächtigen, indem er eine Bombe an einem Bombenentschärfungsroboter befestigte. Was auch immer Sie über die Weisheit und Ethik eines solchen Schritts denken, Sie können nicht glaubwürdig argumentieren, dass der Roboter die Aufgabe erfüllt hat, für die er gebaut wurde. Ganz im Gegenteil.

In jüngerer Zeit war der potenzielle Einsatz bewaffneter Roboter durch die Strafverfolgungsbehörden in Orten wie Oakland und San Francisco ein politischer Blitzableiter. Im vergangenen Oktober unterzeichnete Boston Dynamics gemeinsam mit Agility, ANYbotics, Clearpath Robotics und Open Robotics einen offenen Brief, in dem die Verwendung von „Allzweck“-Robotern als Waffe verurteilt wurde.

Auszugsweise lautete es:

Wir glauben, dass die Hinzufügung von Waffen zu Robotern, die ferngesteuert oder autonom betrieben werden, weithin für die Öffentlichkeit verfügbar sind und in der Lage sind, zu bisher unzugänglichen Orten, an denen Menschen leben und arbeiten, zu navigieren, neue Schadensrisiken und ernsthafte ethische Probleme mit sich bringt. Auch der Einsatz dieser neu fähigen Roboter als Waffe wird das Vertrauen der Öffentlichkeit in die Technologie in einer Weise beeinträchtigen, die den enormen Nutzen, den sie für die Gesellschaft mit sich bringen, beeinträchtigt.

Vor diesem Hintergrund sollte es keine große Überraschung sein, dass der Hersteller von Spot eine Schlüsselrolle bei der Aussaat dieses neuen Gesetzesvorschlags gespielt hat. Anfang dieser Woche habe ich mit der Vertreterin des Bundesstaates Massachusetts, Lindsay Sabadosa, über den Gesetzentwurf gesprochen, der ihn zusammen mit dem Senator des Bundesstaates Massachusetts, Michael Moore, eingebracht hat.

Wie ist der Stand der Rechnung?

Wir befinden uns in einer interessanten Lage, da der Gesetzentwurf viele bewegliche Teile enthält. Der Gesetzentwurf hat bereits eine Anhörung gehabt, was eine wunderbare Nachricht ist. Wir arbeiten mit dem Ausschuss an der Formulierung des Gesetzentwurfs. Sie hatten einige Fragen dazu, warum verschiedene Stücke so geschrieben wurden, wie sie geschrieben wurden. Wir führen derzeit die technische Überprüfung der Sprache durch – und befragen auch alle Beteiligten, um sicherzustellen, dass alle, die mit am Tisch sein müssen, auch mit am Tisch sind.

Wenn Sie „Stakeholder“ sagen. . .

Stakeholder sind Unternehmen, die Robotik produzieren. Der Roboter Spot, den Boston Dynamics herstellt, und andere Roboter werden von Einrichtungen wie dem Boston Police Department oder der Massachusetts State Police eingesetzt. Sie könnten von der Feuerwehr verwendet werden. Wir sprechen also mit diesen Leuten, um den Gesetzentwurf durchzugehen und über die Änderungen zu sprechen. Im Großen und Ganzen hören wir, dass der Gesetzentwurf für diese Interessengruppen nicht wirklich viel ändert. Eigentlich geht es bei der Gesetzesvorlage darum, normale Menschen davon abzuhalten, Roboter als Waffen einzusetzen, und nicht darum, die sehr guten Verwendungsmöglichkeiten zu verhindern, für die die Roboter derzeit eingesetzt werden.

Gilt der Gesetzentwurf auch für die Strafverfolgung?

Wir versuchen nicht, die Polizei davon abzuhalten, die Roboter einzusetzen. Und was wir von den Strafverfolgungsbehörden wiederholt gehört haben, ist, dass sie häufig zur Deeskalation von Situationen eingesetzt werden. Sie reden viel über Barrikadensituationen oder Geiselnahmen. Ich möchte nicht gruselig sein, aber wenn Menschen noch am Leben sind, wenn es Verletzungen gibt, hilft es oft, zu deeskalieren, anstatt Beamte zu schicken, von denen wir wissen, dass die Situation oft eskalieren kann. Nein, wir würden keine dieser Verwendungen ändern. Die Gesetzgebung sieht vor, dass die Strafverfolgungsbehörden Haftbefehle für den Einsatz von Robotern erhalten, wenn sie diese einsetzen, anstatt einen Polizeibeamten zu schicken. Das ist schon ziemlich häufig. Die Strafverfolgungsbehörden müssen dies tun, wenn es sich nicht um einen Notfall handelt. Wir sagen eigentlich nur: „Bitte befolgen Sie das aktuelle Protokoll.“ Und wenn Sie einen Roboter anstelle eines Menschen verwenden, stellen wir sicher, dass das Protokoll weiterhin der Standard ist.“

Ich bin mir sicher, dass Sie die Geschichten aus Orten wie San Francisco und Oakland verfolgt haben, wo versucht wird, Roboter als Waffen einzusetzen. Ist das darin enthalten?

Wir haben noch nicht erlebt, dass die Strafverfolgungsbehörden Roboter als Waffen einsetzen, und niemand hat von den Strafverfolgungsbehörden in Massachusetts gesagt: „Wir würden gerne eine Waffe an einem Roboter anbringen.“ Ich denke, aufgrund einiger dieser Gespräche in der Vergangenheit bestand der Wunsch, diesen Weg nicht einzuschlagen. Und ich denke, dass die örtlichen Gemeinden wahrscheinlich viel zu sagen hätten, wenn die Polizei damit beginnen würde. Auch wenn die Gesetzgebung dies nicht völlig verbietet, dulden wir es auch nicht.

Gibt es im Gesetzentwurf keinen Versuch, dem zuvorzukommen?

Nicht in der Gesetzgebung. Menschen, die die Hunde zum Jagen benutzen, indem sie ihnen Waffen anbringen und solche Dinge – das ist nichts, was wir sehen wollen.

Gibt es derzeit Widerstand?

Wir hatten keinen Einspruch gegen die Gesetzgebung. Wir hatten sicherlich Fragen von Stakeholdern, aber alles war relativ positiv. Wir haben festgestellt, dass die meisten Menschen – selbst mit vorgeschlagenen Änderungen an der Gesetzgebung – das Gefühl haben, dass es eine gemeinsame Basis gibt, zu der wir gelangen können.

Welche Fragen bekommen Sie von den Stakeholdern?

Nun, die erste Frage, die wir immer bekommen, ist: „Warum ist das wichtig?“

Man sollte meinen, dass die Stakeholder das verstehen würden.

Aber oft, [companies ask] was ist die Absicht dahinter? Liegt es daran, dass wir versuchen, etwas zu tun, das nicht offensichtlich ist, oder wollen wir wirklich nur sicherstellen, dass es nicht zu Missbrauch kommt? Ich denke, Boston Dynamics versucht zu sagen: „Wir wollen einem möglichen Missbrauch unserer Roboter zuvorkommen, bevor etwas passiert.“ Ich denke, das ist klug.

Es gab keinen Widerstand gegen die Frage, ob es darum geht, Innovationen zu unterdrücken?

Das glaube ich nicht. Tatsächlich denke ich, dass der Robotik-Handelsverband mit an Bord ist. Und dann ist Boston Dynamics hier natürlich wirklich führend. Wir haben Dankesbriefe von Unternehmen erhalten, aber keine Gegenreaktion von ihnen. Und unser Ziel ist es nicht, Innovationen zu unterdrücken. Ich denke, es gibt viele wunderbare Dinge, für die Roboter eingesetzt werden. Ich schätze, wie sie in Situationen eingesetzt werden können, die für Menschen sehr unsicher wären. Aber ich glaube nicht, dass das Anbringen von Waffen an Robotern wirklich ein Innovationsbereich ist, der von vielen Unternehmen erforscht wird.

Massachusetts ist ein fortschrittlicher Staat, aber es ist interessant, dass er einer der ersten ist, der einen solchen Gesetzentwurf verfolgt, da Boston eines der weltweit führenden Robotikzentren ist.

Deshalb wollten wir die Ersten sein, die es tun. Ich hoffe, dass wir auch die Ersten sein werden, die die Gesetzgebung über die Ziellinie bringen. Sie haben gefragt, ob es die Innovation erstickt. Ich habe argumentiert, dass dieser Gesetzentwurf hilfreich ist, weil er den Unternehmen ein Mindestmaß an Sicherheit gibt, um zu sagen: „Wir produzieren diese Produkte nicht für schändliche Zwecke.“ Diese Innovation ist wirklich gut.“ Ich habe Leute sagen hören, dass wir vorsichtig sein müssen. Dass Robotiker nur versuchen, Robocops zu erschaffen. Das ist nicht das, was diese Unternehmen tun. Sie versuchen, Roboter für ganz bestimmte Situationen zu entwickeln, die sehr nützlich sein und dabei helfen können, Menschenleben zu retten. Ich denke, das ist es wert. Wir betrachten dies eher als Unterstützung der Robotikindustrie als als Versuch, sie zu behindern.

Waren diese Geschichten aus Orten wie San Francisco und Oakland eine Inspiration für die Ausarbeitung des Gesetzentwurfs?

Ehrlich gesagt glaube ich, dass sie für Boston Dynamics waren. Sie haben uns aufgesucht.

Also hat Boston Dynamics das erste Gespräch angeregt?

Ja, und das ist aus meiner Sicht der Grund, warum dieser Gesetzentwurf eher hilft als behindert.

Eine Version dieses Artikels erschien erstmals im Robotik-Newsletter Actuator von Tech. Abonnieren Sie hier.