Vor etwa zwei Monaten fuhren Brandon Tseng, Mitbegründer von Shield AI, und einer seiner Mitarbeiter in einem Uber durch Kiew, Ukraine. Sie waren auf dem Weg zu einem Treffen mit Militärbeamten, um ihnen ihre KI-Pilotsysteme und Drohnen zu verkaufen, als sein Mitarbeiter ihm plötzlich eine Warnung auf seinem Telefon zeigte. Russische Bomben trafen ein. Tseng begegnete seinem möglichen Tod mit einem Schulterzucken. „Wenn es deine Zeit ist zu gehen“, sagte er, „dann ist es deine Zeit zu gehen.“
Wenn überhaupt, sehnte sich Tseng, ein ehemaliger Navy SEAL, nach mehr Action. Mitarbeiter von Shield AI waren zuvor in viel gefährlicheren Gebieten in der Ukraine gewesen und hatten dort Truppen in deren Software und Drohnen geschult. „Ich bin ziemlich neidisch darauf, wohin sie gehen müssen“, sagte Tseng. „Nur aus Abenteuersicht.“
Tseng verkörpert den stillen Machogeist, der die meisten Gründer von Verteidigungstechnologien auszeichnet. Als ich ihn letzten Monat im Büro des Unternehmens in Arlington traf, zeigte er ein Messer, das in seinem Büro ausgestellt war und auf dem der SEAL-Slogan „Suffer in silence“ eingraviert war. Die weißen Wände, deren Oberseiten in fluoreszierendem Licht leuchteten (um wie ein Raumschiff auszusehen, sagte Tseng), waren mit Slogans wie „Tu, was die Ehre gebietet“ und „Verdiene dir jeden Tag deinen Schild“ bedeckt. Ich habe darauf hingewiesen, dass sie ziemlich intensiv waren. „Sind sie?“ Tseng antwortete.
Im Jahr 2015 gründete Tseng zusammen mit seinem Bruder Ryan Tseng, einem patentierten Elektroingenieur, Shield AI mit einer klaren Mission: „Wir haben den besten KI-Piloten der Welt gebaut“, sagte er. „Ich möchte eine Million KI-Piloten in die Hände von Kunden legen.“
Zu diesem Zweck haben er und sein Bruder über 1 Milliarde US-Dollar von Investoren wie Riot Ventures und dem US Innovative Technology Fund eingesammelt. Das Unternehmen entwickelt KI-Software, um Luftfahrzeuge autonom zu machen, obwohl Tseng sagte, dass sie die Software von Shield AI auch in Unterwasser- und Oberflächensystemen einsetzen wollen. Es verfügt auch über Hardwareprodukte wie die Drohne V-BAT.
Shield AI ist auch Teil einer seltenen Klasse von Verteidigungstechnologie-Startups: eines, das tatsächlich anständige Regierungsaufträge erhalten hat, wie es Vertrag über 198 Millionen US-Dollar von der Küstenwache in diesem Jahr. Als wollten sie sich für eine noch größere Zukunft positionieren, wählten die Gründer ein neues Büro, umgeben von drei Etagen von Raytheon, einem der größten Rüstungsunternehmen.
Ukraine: Das Labor für US-amerikanische Verteidigungstechnologie-Startups
Der 16. September war ein Zeichen für den Wandel der Zeiten: Anstatt die Gründer von Verteidigungstechnologien dazu zu bringen, ins Kapitol zu fliegen, ihre Anzüge anzuziehen und vor Politikern zu kriechen, kam Washington, D.C. zu ihnen.
Mitglieder des US-Repräsentantenhauses für Streitkräfte trafen sich mit Shyam Sankar, CTO von Palantir, Brandon Tseng und Führungskräften von Skydio, Applied Intuition und Saildrone auf dem Silicon Valley-Campus der UC Santa Cruz. Sie diskutierten über die Beschaffungsreform des US-Verteidigungsministeriums (DoD) und zwangsläufig über die Rolle der US-Technologie in der Ukraine. Es war das erste öffentliche Anhörung Das Komitee tagt seit 2006 außerhalb von Washington, D.C.
Die Ukraine sei „ein großartiges Labor gewesen“, sagte Tseng den politischen Entscheidungsträgern. „Was ich denke, die Ukrainer haben herausgefunden, dass sie nichts verwenden werden, was auf dem Schlachtfeld nicht funktioniert, Punkt.“
Gründer der Verteidigungstechnologie, wie der Mitbegründer von Anduril Palmer Luckey Und Skydio-Mitbegründer Adam Brysind alle in das umkämpfte Land geströmt, um relativ neue Technologie für ein schnell verfallendes Schlachtfeld zu verkaufen. Leider funktionieren nicht alle US-Technologien. Laut a Bericht des Wall Street JournalIn der Ukraine haben Drohnen von US-Start-ups fast überall versagt, was die elektronische Kriegsführung betrifft, was bedeutet, dass die Drohnen unter der russischen GPS-Blackout-Technologie nicht mehr funktionieren.
„Die Ukraine befindet sich im Krieg und Menschen werden getötet. Aber … Sie wollen die gewonnenen Erkenntnisse nutzen“, sagte mir Tseng eine Woche später, als er über die Anhörung nachdachte. „Sie möchten keine dieser Lektionen erneut lernen müssen. Die Vereinigten Staaten sollten keine dieser Lektionen noch einmal lernen wollen.“
Natürlich ist er zuversichtlich, dass sich die Drohnen von Shield AI in der Ukraine besser geschlagen haben als andere, weil sie, wie er sagt, ohne GPS operieren können. „Wir arbeiten daran, auf der Grundlage der Erfolge, die wir erzielt haben, mehr Drohnen dorthin zu bringen“, sagte er, obwohl er sich weigerte, Einzelheiten darüber zu nennen, wie viele Drohnen Shield AI dorthin geschickt hat.
Terminator-ähnliche KI-Killer? Oder „Enders Spiel“?
Tsengs Eckbüro ist leer, abgesehen von einer gerahmten Kopie der Verfassung, die schief an der Wand hängt. Er nannte es eine seiner größten Inspirationen. „Nicht weil wir perfekt sind, sondern weil wir nach diesen Werten streben, würde ich behaupten, dass sie perfekte Werte sind“, sagte er. „Das ist das Wichtigste. Wir marschieren immer in diese Richtung.“
Er ordnete den Rahmen, bevor er eine kurze Geschichte der Kriegsführung durchblätterte. Abschreckung, sagte er, entstehe tendenziell, wenn eine radikal neue Technologie auftauche, wie die Atombombe oder Stealth-Technologie und GPS. KI, sagte er, werde die neue Ära der Abschreckung einläuten – vorausgesetzt, das Verteidigungsministerium finanziere sie angemessen. „Private Unternehmen investieren mehr Geld in KI und Autonomie als jeder Gesamtbetrag im Verteidigungshaushalt“, sagte er.
Demnach stieg der potenzielle Wert von KI-bezogenen Bundesverträgen von 335 Millionen US-Dollar im Jahr 2022 auf 4,6 Milliarden US-Dollar im Jahr 2023 ein Bericht der Brookings Institution. Aber das ist laut PitchBook immer noch ein Bruchteil der über 70 Milliarden US-Dollar, die VCs in etwa im gleichen Zeitraum in Verteidigungstechnologie investiert haben.
Dennoch ist die größte Frage beim militärischen KI-Einsatz nicht das Budget, sondern die Ethik. Gründer und politische Entscheidungsträger ringen gleichermaßen mit der Frage, ob vollständig autonome Waffen zugelassen werden sollen, was bedeutet, dass die KI selbst entscheidet, wann getötet wird. In letzter Zeit scheint die Rhetorik einiger Gründer auf der Seite des Baus solcher Waffen zu stehen.
Vor ein paar Tagen behauptete Luckey von Anduril beispielsweise, dass „viele unserer Gegner derzeit in den Vereinten Nationen eine Schattenkampagne führen“, um westliche Länder dazu zu bringen, die KI nicht mehr aggressiv zu verfolgen. Er implizierte, dass eine vollständig autonome KI nicht schlimmer sei als Landminen. Er erwähnte jedoch nicht, dass die USA zu den über 160 Nationen gehören, die dies tun einigte sich darauf, den Einsatz von Antipersonenminen zu verbieten an den allermeisten Orten.
Tseng ist entschiedener Gegner völlig autonomer Waffen. „Ich musste die moralische Entscheidung treffen, auf dem Schlachtfeld tödliche Gewalt anzuwenden“, sagte er. „Das ist eine menschliche Entscheidung und es wird immer eine menschliche Entscheidung bleiben. Das ist der Standpunkt von Shield AI. Das ist auch der Standpunkt des US-Militärs.“
Er hat Recht, dass das US-Militär derzeit keine vollständig autonomen Waffen kauft, obwohl es Unternehmen nicht verbietet, solche Waffen zu entwickeln. Was wäre, wenn die USA ihren Standpunkt ändern würden? „Ich denke, das ist eine verrückte Hypothese“, antwortete er. „Der Kongress will das nicht. Das will niemand.“
Wenn er also keine Armee von Terminator-ähnlichen Killern vorhersieht, was stellt er sich dann vor? „Eine einzelne Person könnte eine Million Drohnen befehligen und kontrollieren“, sagte Tseng. „Es gibt keine technologische Beschränkung dafür, wie viel eine einzelne Person auf dem Schlachtfeld effektiv befehligen kann.“
Es werde „Ender’s Game“ ähneln, sagte er und bezog sich dabei auf den Science-Fiction-Klassiker von 1985, in dem ein kleiner Militäroffizier mit einer Handbewegung Legionen von Weltraumarmeen freilassen kann.
„Außer dass es statt der echten Menschen, die er befehligte, verdammte Roboter sein werden“, sagte Tseng.