Eines der wenigen US-Regierungsbüros, das sich der Bewertung der KI-Sicherheit widmet, läuft Gefahr, aufgelöst zu werden, wenn der Kongress es nicht genehmigt.
Das US AI Safety Institute (AISI), eine Einrichtung der Bundesregierung, die Risiken in KI-Systemen untersucht, wurde im vergangenen November im Rahmen der AI Executive Order von Präsident Joe Biden gegründet. Das AISI ist Teil des NIST, einer Agentur des Handelsministeriums, die Leitlinien für den Einsatz verschiedener Technologiekategorien entwickelt.
Aber während das AISI über ein Budget, einen Direktor und eine Forschungspartnerschaft mit seinem Pendant im Vereinigten Königreich, dem UK AI Safety Institute, verfügt, könnte es durch eine einfache Aufhebung der Durchführungsverordnung von Präsident Biden aufgelöst werden.
„Wenn ein anderer Präsident sein Amt antreten und die AI Executive Order aufheben würde, würden sie die AISI auflösen“, sagte Chris MacKenzie, Senior Director of Communications bei Americans for Responsible Innovation, einer AI-Lobbygruppe, gegenüber Tech. „Und [Donald] Trump hat versprochen, die AI Executive Order aufzuheben. Die formelle Genehmigung des KI-Sicherheitsinstituts durch den Kongress würde dessen Fortbestand sicherstellen, unabhängig davon, wer im Weißen Haus sitzt.“
Abgesehen davon, dass sie die Zukunft der AISI sichert, könnte die Ermächtigung des Amtes auch zu einer stabileren, langfristigen Finanzierung ihrer Initiative durch den Kongress führen. Das AISI verfügt derzeit über ein Budget von rund 10 Millionen US-Dollar – ein relativ kleiner Betrag angesichts der Konzentration großer KI-Labore im Silicon Valley.
„Anwender im Kongress tendieren dazu, Einrichtungen, die offiziell vom Kongress genehmigt wurden, eine höhere Haushaltspriorität einzuräumen“, sagte MacKenzie, „mit der Maßgabe, dass diese Einrichtungen eine breite Zustimmung haben und auf lange Sicht bestehen und nicht nur eine einmalige Angelegenheit einer einzelnen Regierung sind.“ Priorität.“
In einem Brief Heute forderte eine Koalition aus über 60 Unternehmen, gemeinnützigen Organisationen und Universitäten den Kongress auf, noch vor Jahresende ein Gesetz zur Kodifizierung des AISI zu erlassen. Zu den Unterzeichnern gehören OpenAI und Anthropic, die beide dies getan haben unterzeichnete Vereinbarungen mit dem AISI, um bei der KI-Forschung, -Testung und -Bewertung zusammenzuarbeiten.
Der Senat und das Repräsentantenhaus haben jeweils parteiübergreifende Gesetzesentwürfe zur Genehmigung der Aktivitäten der AISI vorgelegt. Die Vorschläge stießen jedoch auf einigen Widerstand konservativer Gesetzgeber, darunter Senator Ted Cruz (R-Texas), der forderte, dass die Senatsversion des AISI-Gesetzes eine Rücknahme von Diversity-Programmen vorsieht.
Zugegebenermaßen ist die AISI aus Sicht der Durchsetzung eine relativ schwache Organisation. Seine Standards sind freiwillig. Aber Denkfabriken und Branchenkoalitionen – sowie Technologiegiganten wie Microsoft, Google, Amazon und IBM, die alle den oben genannten Brief unterzeichnet haben – sehen in der AISI den vielversprechendsten Weg zu KI-Benchmarks, die die Grundlage künftiger Politik bilden können.
Einige Interessengruppen befürchten auch, dass ein Zusammenbruch der AISI das Risiko birgt, dass die KI-Führung an ausländische Nationen abgegeben wird. Während eines KI-Gipfels im Mai 2024 in Seoul einigten sich internationale Führungskräfte darauf, ein Netzwerk von KI-Sicherheitsinstituten zu bilden, das neben dem Vereinigten Königreich auch Agenturen aus Japan, Frankreich, Deutschland, Italien, Singapur, Südkorea, Australien, Kanada und der Europäischen Union umfasst und USA
„Während andere Regierungen schnell voranschreiten, können Kongressabgeordnete sicherstellen, dass die USA im globalen KI-Wettbewerb nicht zurückfallen, indem sie das AI Safety Institute dauerhaft autorisieren und Gewissheit über seine entscheidende Rolle bei der Förderung der KI-Innovation und -Einführung in den USA schaffen“, sagt Jason Oxman, Präsident und CEO des Information Technology Industry Council, einem Handelsverband der IT-Branche, sagte in einer Erklärung. „Wir fordern den Kongress dringend auf, dem heutigen Aufruf von Industrie, Zivilgesellschaft und Wissenschaft Folge zu leisten und die notwendigen parteiübergreifenden Gesetze noch vor Jahresende zu verabschieden.“