Vor einem Monat kursierte in den sozialen Medien ein Video eines Waymo-Robotaxis, das in einem Kreisverkehr feststeckte – laut Waymo ein Einzelfall ohne Passagiere im Fahrzeug.
Anscheinend war es keine einmalige Sache.
Ungefähr zur gleichen Zeit kreiste auch Mike Johns, Gründer und CEO des KI-Beratungsunternehmens Digital Mind State, in einem anderen Waymo-Robotaxi auf dem Weg zum Flughafen Phoenix um einen Parkplatz und war nicht in der Lage, das Auto anzuhalten oder auszusteigen.
Die Videos wurden innerhalb weniger Tage veröffentlicht. Waymo hat nicht bestätigt, ob sich die Vorfälle gleichzeitig ereigneten oder ob es andere ähnliche, verrückte Vorfälle gab, gab jedoch an, Software-Updates herausgegeben zu haben, um das Problem zu beheben.
Johns saß „weniger als sieben Minuten“ im Waymo fest und durchlief eine Schleife, aber er sagt, es habe sich „wie eine Ewigkeit angefühlt“, insbesondere weil er befürchtete, seinen Flug zu verpassen, und sich fragte, ob das Auto gehackt worden sei. Es war sein zweites Mal in einem Waymo-Robotaxi.
Ein Waymo-Sprecher bestätigte den Vorfall. „Dieses Ereignis ereignete sich Anfang Dezember und wurde seitdem durch ein regelmäßig geplantes Software-Update behoben. Das Fahrzeug beendete die Fahrt des Fahrers und ihm wurde die Fahrt nicht in Rechnung gestellt.“
Ein Waymo-Kundendienstspezialist rief ohne Johns‘ Aufforderung das Auto an, sagte er gegenüber Tech. Die Agentin sagte, sie habe eine Benachrichtigung erhalten, dass bei seinem Auto „möglicherweise ein Routingproblem aufgetreten sei“, so a Video des Vorfalls, den Johns teilte.
Um das Problem zu lösen, bat der Spezialist Johns, seine Waymo-App zu öffnen und „in der unteren linken Ecke auf ‚Meine Reise‘ zu tippen.“ [the] app“, worauf Johns antwortete: „Können Sie es nicht einfach machen? Du solltest damit zurechtkommen, das Auto übernehmen, mein Telefon brauchst du nicht.“
Eine berechtigte Frage, wenn man bedenkt, dass eine solche Übernahme angeblich der Zweck eines Fernassistenten ist.
„Ich habe keine Möglichkeit, das Auto zu kontrollieren“, gestand sie.
Waymo teilt Tech mit, dass sich seine Fahrer-Support-Agenten von seinen unterscheiden Flottenreaktionsteamworauf die autonome Fahrsoftware (bekannt als „Waymo Driver“) tippt, um Hilfe zu erhalten, wenn sie auf der Straße auf eine ungewohnte Situation stößt.
Fahrerbetreuer, wie derjenige, mit dem Johns gesprochen hat, können auf Anfragen von Fahrern reagieren – Fahrer können über die Waymo-App und eine Ruftaste im Fahrzeug Kontakt aufnehmen. Sie können auch „Kontakt aufnehmen, wenn die Diagnose des Waymo-Fahrzeugs einen solchen Bedarf anzeigt.“ Sie interagieren jedoch nicht direkt mit der Fahrsoftware des Fahrzeugs.
Am Ende, sagt Johns, habe das Befolgen der Anweisungen des Support-Mitarbeiters in der App das Robotaxi wieder auf Kurs gebracht.
Johns sagte, Waymo habe ihn für die Fahrt entschädigt und ihn auf die Website des Unternehmens verwiesen, um eine Beschwerde einzureichen. Das Unternehmen hat sich nicht unmittelbar nach dem Vorfall an ihn gewandt, tat dies jedoch diese Woche, nachdem sein Video aufgegriffen wurde großen Nachrichtenagenturen.
„Mein größtes Problem ist, dass wir in diesem digitalen Zeitalter, in dem wir uns befinden, so weit vom menschlichen Faktor entfernt sind“, sagte Johns gegenüber Tech. „Ich bin voll und ganz für KI. Ich stehe an der Spitze zwischen KI, Automatisierung und Robotik, aber es gibt immer noch einen menschlichen Faktor.“
Missy Cummings, Professorin für Autonomie und Robotik an der George Mason University und ehemalige leitende Sicherheitsberaterin der National Highway Traffic Safety Administration, sagt, dass dieser Vorfall zwar klein ist, aber ein größeres Problem aufzeigt, das AV-Unternehmen lösen sollten.
„In jedem Robotersystem gibt es irgendwo einen großen roten Knopf, der sich bei Betätigung ausschaltet“, sagte Cummings gegenüber Tech und bemerkte, dass der Knopf an einer schwer zugänglichen Stelle im Auto versteckt sein könnte. „Und ich sage Ihnen, das ist eine wirklich wichtige Sicherheitsmaßnahme für die Zukunft, denn was passiert, wenn das Auto … von jemandem gehackt wurde und sich ein Passagier im Fahrzeug befindet? Sie brauchen auf jeden Fall die Möglichkeit, alles im Auto aus der Ferne anzuhalten, damit sie aussteigen können.“
Waymo sagte gegenüber Tech, dass „Waymo-Fahrzeuge den Fahrern in der Tat jederzeit über einen Anhalteknopf verfügen“, der sich in der App und auf dem Beifahrerbildschirm befindet, aber Johns sagte, der Support-Mitarbeiter habe ihm davon nichts erzählt, und er habe es nicht gesehen.
Cummings wies außerdem darauf hin, dass es aufgrund möglicher Verbindungsprobleme und nicht benutzerfreundlicher Apps „fehleranfällig“ sei, den Fahrer zu bitten, sich über seine App aktiv an der Reparatur zu beteiligen.
„Ich war einfach überwältigt, dass sie versuchte, ihn dazu zu bringen, in sein Telefon zu gehen, um eine Lösung für das Problem zu finden, obwohl es sich eindeutig um eine dringende Situation handelt, die sofort behoben werden muss“, sagte Cummings. „Sie hätte sagen sollen: ‚Sehen Sie, ziehen Sie die linke Ecke der Matte auf dem Boden hoch und Sie werden einen roten Knopf sehen.‘ Drück den Knopf.‘“