US-Präsident Joe Biden hat eine Durchführungsverordnung erlassen (EO), das darauf abzielt, „neue Standards“ für die KI-Sicherheit zu etablieren, einschließlich Anforderungen an Unternehmen, die grundlegende KI-Modelle entwickeln, um die Bundesregierung zu benachrichtigen und die Ergebnisse aller Sicherheitstests zu teilen, bevor sie der Öffentlichkeit zugänglich gemacht werden.
Die schnelllebige generative KI-Bewegung, die von Unternehmen wie ChatGPT und von OpenAI entwickelten Basis-KI-Modellen vorangetrieben wird, hat eine globale Debatte über die Notwendigkeit von Leitplanken entfacht, um den potenziellen Fallstricken entgegenzuwirken, die entstehen, wenn Algorithmen zu viel Kontrolle übertragen wird. Bereits im Mai die G7-Staats- und Regierungschefs Schlüsselthemen identifiziert Diese müssen im Rahmen des sogenannten Hiroshima-KI-Prozesses angegangen werden sieben Bestandteile Länder einigen sich heute auf Leitprinzipien und eine „freiwillige“ Verhaltenskodex damit KI-Entwickler folgen können.
Letzte Woche kündigten die Vereinten Nationen (UN) ein neues Gremium zur Erforschung der KI-Governance an, während Großbritannien diese Woche seinen globalen Gipfel zur KI-Governance im Bletchley Park ausrichtet, wobei US-Vizepräsidentin Kamala Harris bei der Veranstaltung eine Rede halten wird.
Die Biden-Harris-Administration ihrerseits hat sich auch auf die KI-Sicherheit statt auf alles Rechtsverbindliche konzentriert und „freiwillige Verpflichtungen“ von den großen KI-Entwicklern wie OpenAI, Google, Microsoft, Meta und Amazon eingeholt – das war schon immer der Fall Allerdings ist dies als Auftakt zu einer Durchführungsverordnung gedacht, die heute angekündigt wird.
„Sichere und vertrauenswürdige KI“
Konkret sieht die Anordnung vor, dass Entwickler der „leistungsfähigsten KI-Systeme“ ihre Sicherheitstestergebnisse und zugehörigen Daten mit der US-Regierung teilen müssen.
„Mit zunehmenden Fähigkeiten der KI wachsen auch ihre Auswirkungen auf die Sicherheit und den Schutz der Amerikaner“, heißt es in der Anordnung und fügt hinzu, dass sie „die Amerikaner vor den potenziellen Risiken von KI-Systemen schützen“ soll.
Angleichung der neuen KI-Sicherheitsstandards an die Gesetz zur Verteidigungsproduktion (1950)Die Verordnung zielt speziell auf jedes Stiftungsmodell ab, das ein Risiko für die nationale Sicherheit, die wirtschaftliche Sicherheit oder die öffentliche Gesundheit darstellen könnte – was zwar einigermaßen Interpretationsspielraum lässt, aber nahezu jedes Stiftungsmodell abdecken sollte, das zum Tragen kommt.
„Diese Maßnahmen stellen sicher, dass KI-Systeme sicher und vertrauenswürdig sind, bevor Unternehmen sie veröffentlichen“, heißt es in der Anordnung weiter.
An anderer Stelle werden in der Verordnung auch Pläne zur Entwicklung verschiedener neuer Tools und Systeme dargelegt, um sicherzustellen, dass KI sicher und vertrauenswürdig ist, gemeinsam mit dem National Institute of Standards and Technology (NIST) wurde mit der Entwicklung neuer Standards „für umfangreiche Red-Team-Tests“ vor der Veröffentlichung beauftragt. Solche Tests werden flächendeckend angewendet, wobei sich beispielsweise die Ministerien für Energie und Innere Sicherheit mit Risiken im Zusammenhang mit KI und kritischer Infrastruktur befassen.
Die Verordnung dient auch dazu, eine Reihe neuer Richtlinien und Standards zu untermauern, darunter – aber nicht beschränkt auf – den Schutz vor den Risiken des Einsatzes von KI zur Herstellung gefährlicher biologischer Materialien; Schutz vor KI-gestütztem Betrug und Täuschung; und die Einrichtung eines Cybersicherheitsprogramms zur Entwicklung von KI-Tools zur Behebung von Schwachstellen in kritischer Software.
Zähne
Es ist erwähnenswert, dass die Verordnung Bereiche wie Gerechtigkeit und Bürgerrechte anspricht und darauf hinweist, wie KI Diskriminierung und Voreingenommenheit im Gesundheitswesen, in der Justiz und im Wohnungswesen verschärfen kann, sowie auf die Gefahren, die KI in Bezug auf Dinge wie Arbeitsplatzüberwachung und Arbeit mit sich bringt Verschiebung. Einige mögen die Anordnung jedoch als mangelhaft interpretieren, da sie sich größtenteils auf Empfehlungen und Richtlinien zu konzentrieren scheint – so heißt es beispielsweise, dass sie durch „Entwicklung“ für Gerechtigkeit im Strafjustizsystem sorgen will empfohlene Vorgehensweise zum Einsatz von KI bei der Verurteilung, Bewährung und Bewährung, vorläufiger Freilassung und Inhaftierung, Risikobewertungen, Überwachung, Kriminalitätsvorhersage und prädiktiver Polizeiarbeit sowie forensischer Analyse.“
Und während die Durchführungsverordnung in gewisser Weise zur Kodifizierung beiträgt Wie KI-Entwickler sollten Sicherheit in ihre Systeme einbauen. Es ist nicht klar, inwieweit dies ohne weitere Gesetzesänderungen durchsetzbar ist. In der Anordnung werden beispielsweise Bedenken hinsichtlich des Datenschutzes erörtert – schließlich macht es KI wesentlich einfacher, die privaten Daten von Einzelpersonen in großem Umfang zu extrahieren und zu nutzen, wozu Entwickler möglicherweise im Rahmen ihrer Modelltrainingsprozesse einen Anreiz erhalten. Die Durchführungsverordnung fordert den Kongress jedoch lediglich auf, „überparteiliche Datenschutzgesetze“ zu verabschieden, um die Daten der Amerikaner zu schützen, einschließlich der Forderung nach mehr staatlicher Unterstützung für die Entwicklung datenschutzschonender KI-Entwicklungstechniken.
Da Europa kurz vor der Verabschiedung der ersten umfassenden KI-Vorschriften steht, ist es klar, dass auch der Rest der Welt mit Möglichkeiten zur Eindämmung einer der größten gesellschaftlichen Störungen seit der industriellen Revolution ringt. Es bleibt abzuwarten, wie wirkungsvoll sich die Durchführungsverordnung von Präsident Biden auf Unternehmen wie OpenAI, Google, Microsoft und Meta auswirken wird.