Der Gouverneur von Kalifornien, Gavin Newsom, sagte am Dienstag, dass 38 Gesetzesentwürfe auf seinem Schreibtisch lägen, die Gesetze zur künstlichen Intelligenz schaffen würden, aber einer überragt alle: SB 1047, Kaliforniens Gesetzentwurf, der verhindern soll, dass KI-Systeme Katastrophen verursachen. Zum ersten Mal teilte der Gouverneur von Kalifornien mit, was er über den umstrittenen Gesetzentwurf denkt.
Kurz gesagt, er glaubt, dass SB 1047 Probleme hat. Newsom sagte, er sei an KI-Gesetzen interessiert, die die heutigen Probleme lösen können, ohne Kaliforniens boomende KI-Industrie zu verärgern. Das ist nicht sehr vielversprechend für die Zukunft von SB 1047, das vor Katastrophen schützen soll, indem es große KI-Anbieter haftbar macht, wenn ihre Produkte verwendet werden, um schweren Schaden anzurichten, wie etwa die Lahmlegung kritischer Infrastrukturen. Gleichzeitig würde die Unterzeichnung des Gesetzes große Teile der KI-Industrie verärgern, die wollen, dass Newsom das Gesetz ablehnt.
„Wir haben in den letzten Jahren daran gearbeitet, vernünftige Regelungen zu finden, die Risikobereitschaft, aber keine Rücksichtslosigkeit unterstützen“, sagte Newsom am Dienstag in einem Gespräch mit Salesforce-CEO Marc Benioff auf der Bühne der Dreamforce-Konferenz 2024. „Das ist in diesem Bereich derzeit eine Herausforderung, insbesondere mit SB 1047, da die Gesetzgebung enorme Auswirkungen haben könnte und insbesondere in der Open-Source-Community eine abschreckende Wirkung haben könnte.“
Newsom sagte weiter, er müsse nachweisbare Risiken gegenüber hypothetischen Risiken abwägen. Später bemerkte er: „Ich kann nicht alles lösen. Was können wir lösen?“
Der Gouverneur hat einen wichtigen Kritikpunkt an SB 1047 angesprochen: Der Gesetzentwurf versucht, die Rolle der KI bei Massenunfällen und Cybersicherheitsvorfällen mit Kosten von über 500 Millionen Dollar zu verhindern, tut aber wenig, um Technologieunternehmen für weniger als diese Summe zur Verantwortung zu ziehen. Kritiker von SB 1047 haben argumentiert, dass der Gesetzentwurf Innovationen hemmen könnte, während er die kurzfristigen Probleme, die KI-Systeme heute verursachen, nicht regelt.
Diese Bemerkungen machte Newsom vor einem Saal voller Teilnehmer einer Konferenz zu Unternehmenstechnologie im Herzen von San Francisco. Bei den meisten Technologiekonferenzen, die ich in letzter Zeit besucht habe, hört man in der Warteschlange vor der Toilette Gemurre über die vielen Probleme von SB 1047. Newsom wusste wahrscheinlich, welche Art von Wählern im Publikum saß, und hat möglicherweise auf die Menge eingeredet.
Allerdings macht der Gouverneur auch seine Worte wahr. Am Dienstag unterzeichnete der Gouverneur von Kalifornien fünf Gesetzesentwürfe, die sich mit KI-Problemen befassen, die wir bereits 2024 erleben werden, wie etwa von KI generierte Falschinformationen zu Wahlen und Hollywood-Studios, die KI-Klone von Schauspielern erstellen. Dies könnten die „nachweisbaren Risiken“ sein, auf die sich Newsom bezieht.
Gleichzeitig beklagte Newsom am Dienstag, dass die Bundesregierung es im KI-Bereich „versäumt“ habe, Regulierungen vorzunehmen. Der Gouverneur wies darauf hin, dass Kalifornien in der Vergangenheit bei der Regulierung von Technologien – insbesondere sozialen Medien und Datenschutz – eine Vorreiterrolle eingenommen habe, und es überrascht ihn nicht, dass die Menschen wieder von dem Staat Führungsstärke erwarten.
Ein Sprecher des Autors von SB 1047, des kalifornischen Staatssenators Scott Wiener, antwortete nicht sofort auf die Bitte von Tech um einen Kommentar.
„[AI] ist ein Bereich, in dem wir dominieren, und ich möchte unsere Dominanz beibehalten“, sagte Newsom. „Gleichzeitig verspürt man eine tiefe Verantwortung, einige der extremeren Bedenken anzusprechen, die viele von uns haben – sogar die größten und stärksten Befürworter dieser Technologie – und das ist eine schwierige Ausgangslage.“
Newsom deutete an, dass die Aussage, dass die Unterzeichnung des Gesetzes SB 1047 die KI-Industrie über Nacht durcheinanderbringen würde, wahrscheinlich übertrieben sei. Er merkte jedoch an, dass die Unterzeichnung der falschen Gesetze im Laufe einiger Jahre Kaliforniens Vorsprung erheblich beeinträchtigen könnte.
Der Gouverneur von Kalifornien hat am Dienstag nicht ausdrücklich gesagt, ob er das Gesetz unterzeichnen oder ablehnen wird. OpenAI, Nancy Pelosi, die US-Handelskammer und Branchenverbände der großen Technologieunternehmen drängen Newsom, SB 1047 zu blockieren. Auf der anderen Seite haben Elon Musk, Anthropic und einige angesehene KI-Forscher nur verhaltene Begeisterung geäußert.
Gouverneur Newsom hat zwei Wochen Zeit, seine Entscheidung zu treffen. Bis dahin bleibt uns ein Haufen Bemerkungen, die für die Zukunft des Gesetzesentwurfs nichts Gutes verheißen.