Das Tech Global Affairs Project untersucht die zunehmend verflochtene Beziehung zwischen dem Technologiesektor und der globalen Politik.
Geopolitische Akteure haben schon immer Technologie eingesetzt, um ihre Ziele zu erreichen. Im Gegensatz zu anderen Technologien ist künstliche Intelligenz (KI) weit mehr als ein bloßes Werkzeug. Wir wollen KI nicht vermenschlichen oder suggerieren, dass sie eigene Absichten hat. Es ist – noch – kein moralischer Akteur. Aber es wird schnell zu einer primären Determinante unseres kollektiven Schicksals. Wir glauben, dass die KI aufgrund ihrer einzigartigen Eigenschaften – und ihrer Auswirkungen auf andere Bereiche, von der Biotechnologie bis zur Nanotechnologie – bereits die Grundlagen des globalen Friedens und der Sicherheit bedroht.
Die rasante technologische Entwicklung der KI, gepaart mit der Breite neuer Anwendungen (die globale KI-Marktgröße wird voraussichtlich mehr als wachsen neunfach von 2020 bis 2028) bedeutet, dass KI-Systeme ohne ausreichende rechtliche Aufsicht oder vollständige Berücksichtigung ihrer ethischen Auswirkungen weit verbreitet sind. Diese Lücke, die oft als Pacing-Problem bezeichnet wird, hat dazu geführt, dass Legislative und Exekutive einfach nicht in der Lage sind, damit umzugehen.
Denn die Auswirkungen neuer Technologien sind oft schwer vorhersehbar. Smartphones und soziale Medien waren in das tägliche Leben eingebettet, lange bevor wir ihr Missbrauchspotenzial vollständig erkannten. Ebenso brauchte es Zeit, um die Auswirkungen der Gesichtserkennungstechnologie auf Datenschutz- und Menschenrechtsverletzungen zu erkennen.
Einige Länder werden KI einsetzen, um die öffentliche Meinung zu manipulieren, indem sie bestimmen, welche Informationen die Menschen sehen, und indem sie Überwachung einsetzen, um die Meinungsfreiheit einzuschränken.
Wenn wir weiter in die Zukunft blicken, haben wir wenig Ahnung, welche Herausforderungen, an denen derzeit geforscht wird, zu Innovationen führen werden und wie diese Innovationen miteinander und mit der weiteren Umgebung interagieren werden.
Diese Probleme sind bei KI besonders akut, da die Mittel, mit denen Lernalgorithmen zu ihren Schlussfolgerungen gelangen, oft unergründlich sind. Wenn unerwünschte Wirkungen ans Licht kommen, kann es schwierig oder unmöglich sein, den Grund dafür zu bestimmen. Systeme, die ständig lernen und ihr Verhalten ändern, können nicht ständig auf Sicherheit geprüft und zertifiziert werden.
KI-Systeme können mit wenig oder gar nicht agieren Mensch Intervention. Man muss keinen Science-Fiction-Roman lesen, um sich gefährliche Szenarien auszumalen. Autonome Systeme laufen Gefahr, das Prinzip zu untergraben, dass es immer einen Akteur – Mensch oder Unternehmen – geben sollte, der für Handlungen in der Welt verantwortlich gemacht werden kann – insbesondere wenn es um Fragen von Krieg und Frieden geht. Wir können Systeme selbst nicht zur Rechenschaft ziehen, und diejenigen, die sie einsetzen, werden argumentieren, dass sie nicht verantwortlich sind, wenn die Systeme auf unvorhersehbare Weise agieren.
Kurz gesagt, wir glauben, dass unsere Gesellschaften nicht auf KI vorbereitet sind – politisch, rechtlich oder ethisch. Die Welt ist auch nicht darauf vorbereitet, wie KI die Geopolitik und die Ethik der internationalen Beziehungen verändern wird. Wir identifizieren drei Möglichkeiten, wie dies geschehen könnte.
Erstens werden Entwicklungen in der KI das Machtgleichgewicht zwischen den Nationen verschieben. Technologie hat schon immer geopolitische Macht geformt. Im 19. und frühen 20. Jahrhundert basierte die internationale Ordnung auf aufkommenden industriellen Fähigkeiten – Dampfschiffen, Flugzeugen und so weiter. Später wurde die Kontrolle über Öl- und Erdgasressourcen wichtiger.
Alle Großmächte sind sich des Potenzials von KI zur Förderung ihrer nationalen Agenden sehr bewusst. September 2017 Wladimir Putin erzählte einer Gruppe von Schulkindern: „Wer auch immer der Anführer wird [in AI] wird der Herrscher der Welt werden.“ Während die USA derzeit in der KI führend sind, machen Chinas Technologieunternehmen rasche Fortschritte und sind bei der Entwicklung und Anwendung bestimmter Forschungsbereiche wie Gesichtserkennungssoftware wohl überlegen.
Die Beherrschung der KI durch Großmächte wird bestehende strukturelle Ungleichheiten verschärfen und zu neuen Formen der Ungleichheit beitragen. Länder, die bereits keinen Zugang zum Internet haben und von der Großzügigkeit wohlhabenderer Nationen abhängig sind, werden weit abgehängt. KI-gestützte Automatisierung wird Beschäftigungsmuster so verändern, dass einige Volkswirtschaften im Vergleich zu anderen Vorteile haben.
Zweitens wird die KI eine neue Gruppe geopolitischer Akteure jenseits der Nationalstaaten stärken. In gewisser Weise sind führende Unternehmen in der digitalen Technologie bereits mächtiger als viele Nationen. Wie der französische Präsident Emmanuel Macron im März 2019 fragte: „Wer kann angesichts der digitalen Giganten behaupten, allein souverän zu sein?“
Der jüngste Einmarsch in die Ukraine ist ein Beispiel. Die nationalen Regierungen reagierten mit der Verhängung von Wirtschaftssanktionen gegen die Russische Föderation. Aber wohl mindestens ebenso wirkungsvoll waren die Entscheidungen von Unternehmen wie IBM, Dell, Meta, Apple und Alphabet, ihre Aktivitäten im Land einzustellen.
Als die Ukraine befürchtete, dass die Invasion ihren Internetzugang stören würde, bat sie in ähnlicher Weise nicht um eine befreundete Regierung, sondern um Unterstützung durch den Technologieunternehmer Elon Musk. Musk reagierte, indem er seinen Starlink-Satelliten-Internetdienst in der Ukraine einschaltete und Empfänger lieferte, damit das Land weiterhin kommunizieren konnte.
Das digitale Oligopol mit Zugriff auf große und wachsende Datenbanken, die als Treibstoff für maschinelle Lernalgorithmen dienen, entwickelt sich schnell zu einem KI Oligopol. Angesichts ihres enormen Reichtums können führende Unternehmen in den USA und China entweder neue Anwendungen entwickeln oder kleinere Unternehmen erwerben, die vielversprechende Tools erfinden. Machine-Learning-Systeme könnten dem KI-Oligopol auch dabei helfen, nationale Vorschriften zu umgehen.
Drittens wird KI Möglichkeiten für neue Konfliktformen eröffnen. Diese reichen von der Beeinflussung der öffentlichen Meinung und von Wahlergebnissen in anderen Ländern durch gefälschte Medien und manipulierte Social-Media-Postings bis hin zu Eingriffen in den Betrieb kritischer Infrastrukturen anderer Länder – wie Energie, Transport oder Kommunikation.
Solche Konfliktformen werden sich als schwer zu handhaben erweisen und ein völliges Umdenken bei Rüstungskontrollinstrumenten auslösen, die nicht geeignet sind, mit Zwangswaffen fertig zu werden. Aktuelle Rüstungskontrollverhandlungen erfordern, dass die Kontrahenten die Fähigkeiten des anderen und ihre militärische Notwendigkeit klar erkennen, aber während beispielsweise Atombomben in ihrer Entwicklung und Anwendung begrenzt sind, ist mit KI fast alles möglich, da sich Fähigkeiten sowohl schnell als auch undurchsichtig entwickeln können.
Ohne durchsetzbare Verträge, die ihren Einsatz einschränken, werden autonome Waffensysteme, die aus handelsüblichen Komponenten zusammengesetzt werden, schließlich Terroristen und anderen nichtstaatlichen Akteuren zur Verfügung stehen. Es besteht auch eine erhebliche Wahrscheinlichkeit, dass schlecht verstandene autonome Waffensysteme unbeabsichtigt Konflikte auslösen oder bestehende Feindseligkeiten eskalieren könnten.
Der einzige Weg, die geopolitischen Risiken von KI zu mindern und die erforderliche agile und umfassende Aufsicht zu gewährleisten, ist ein offener Dialog über ihre Vorteile, Grenzen und Komplexitäten. Die G20 ist ein möglicher Ort, oder es könnte ein neuer internationaler Governance-Mechanismus geschaffen werden, um den Privatsektor und andere wichtige Interessengruppen einzubeziehen.
Es ist allgemein anerkannt, dass die internationale Sicherheit, der wirtschaftliche Wohlstand, das öffentliche Wohl und das menschliche Wohlergehen von der Bewältigung der Verbreitung tödlicher Waffensysteme und des Klimawandels abhängen. Wir glauben, dass sie zunehmend mindestens genauso stark von unserer kollektiven Fähigkeit abhängen werden, die Entwicklung und den Weg der KI und anderer aufkommender Technologien zu gestalten.