Kaliforniens Gesetzentwurf zur Verhinderung von KI-Katastrophen, SB 1047, stieß bei vielen Parteien im Silicon Valley auf erheblichen Widerstand. Heute gaben die kalifornischen Gesetzgeber diesem Druck leicht nach und fügten mehrere Änderungsanträge hinzu, die von der KI-Firma Anthropic und anderen Gegnern vorgeschlagen wurden.
Am Donnerstag passierte der Gesetzesentwurf den kalifornischen Haushaltsausschuss und machte damit einen wichtigen Schritt auf dem Weg zur Verabschiedung als Gesetz. Wie das Büro von Senator Wiener Tech mitteilte, ist der Gesetzesentwurf mit mehreren wichtigen Änderungen verbunden.
„Wir haben eine Reihe sehr vernünftiger Änderungsvorschläge angenommen und ich glaube, wir haben die Kernbedenken von Anthropic und vielen anderen in der Branche berücksichtigt“, sagte Senator Wiener in einer Erklärung gegenüber Tech. „Diese Änderungen basieren auf den wesentlichen Änderungen an SB 1047, die ich zuvor vorgenommen habe, um den besonderen Bedürfnissen der Open-Source-Community gerecht zu werden, die eine wichtige Quelle für Innovationen ist.“
SB 1047 zielt immer noch darauf ab, zu verhindern, dass große KI-Systeme viele Menschen töten oder Cybersicherheitsvorfälle verursachen, die über 500 Millionen Dollar kosten, indem die Entwickler haftbar gemacht werden. Allerdings gibt der Gesetzentwurf der kalifornischen Regierung nun weniger Macht, KI-Labore zur Rechenschaft zu ziehen.
Was bewirkt SB 1047 jetzt?
Besonders wichtig ist, dass der Gesetzentwurf es dem Generalstaatsanwalt Kaliforniens nicht mehr erlaubt, KI-Unternehmen wegen fahrlässiger Sicherheitspraktiken zu verklagen, bevor ein katastrophales Ereignis eingetreten ist. Dies war ein Vorschlag von Anthropic.
Stattdessen kann der Generalstaatsanwalt Kaliforniens eine einstweilige Verfügung beantragen und ein Unternehmen auffordern, einen bestimmten Vorgang einzustellen, den es für gefährlich hält. Zudem kann er einen KI-Entwickler immer noch verklagen, wenn dessen Modell tatsächlich ein katastrophales Ereignis verursacht.
Darüber hinaus schafft SB 1047 nicht mehr die Frontier Model Division (FMD), eine neue Regierungsbehörde, die früher im Gesetzentwurf enthalten war. Der Gesetzentwurf schafft jedoch weiterhin das Board of Frontier Models – den Kern der FMD – und platziert es innerhalb der bestehenden Government Operations Agency. Tatsächlich ist das Gremium jetzt größer und besteht aus neun statt fünf Personen. Das Board of Frontier Models wird weiterhin Rechenschwellen für abgedeckte Modelle festlegen, Sicherheitsrichtlinien herausgeben und Vorschriften für Prüfer erlassen.
Senator Wiener änderte außerdem SB 1047 dahingehend, dass KI-Labore keine Bescheinigungen über die Ergebnisse von Sicherheitstests mehr vorlegen müssen, „unter Androhung von Meineid“. Nun sind diese KI-Labore lediglich dazu verpflichtet, öffentliche „Erklärungen“ über ihre Sicherheitspraktiken vorzulegen, aber der Gesetzentwurf sieht keine strafrechtliche Haftung mehr vor.
SB 1047 enthält jetzt auch eine mildere Formulierung dazu, wie Entwickler die Sicherheit von KI-Modellen gewährleisten. Der Gesetzentwurf verlangt nun von Entwicklern, „angemessene Sorgfalt“ walten zu lassen, damit KI-Modelle kein erhebliches Katastrophenrisiko darstellen, statt der „angemessenen Sicherheit“, die der Gesetzentwurf zuvor verlangte.
Darüber hinaus haben die Gesetzgeber einen Schutz für Open-Source-Feinabstimmungsmodelle hinzugefügt. Wenn jemand weniger als 10 Millionen Dollar für die Feinabstimmung eines abgedeckten Modells ausgibt, wird er nach SB 1047 ausdrücklich nicht als Entwickler betrachtet. Die Verantwortung liegt weiterhin beim ursprünglichen, größeren Entwickler des Modells.
Warum jetzt all diese Änderungen?
Obwohl der Gesetzentwurf auf erheblichen Widerstand von US-Kongressabgeordneten, renommierten KI-Forschern, Big Tech und Risikokapitalgebern gestoßen ist, ist er im kalifornischen Parlament relativ problemlos durchgekommen. Diese Änderungen dürften die Gegner von SB 1047 besänftigen und Gouverneur Newsom einen weniger umstrittenen Gesetzentwurf präsentieren, den er unterzeichnen kann, ohne die Unterstützung der KI-Industrie zu verlieren.
Obwohl Newsom sich nicht öffentlich zu SB 1047 geäußert hat, ist er zuvor angegeben sein Engagement für die KI-Innovation in Kalifornien.
Allerdings dürften diese Änderungen die entschiedenen Kritiker von SB 1047 kaum besänftigen. Zwar ist der Gesetzentwurf deutlich schwächer als vor diesen Änderungen, aber SB 1047 macht Entwickler immer noch für die Gefahren ihrer KI-Modelle haftbar. Diese Kernaussage von SB 1047 wird nicht allgemein unterstützt, und diese Änderungen tragen wenig dazu bei, sie zu ändern.
Tatsächlich verfasste eine Gruppe von acht Kongressabgeordneten der Vereinigten Staaten kurz nach der Verabschiedung des SB 1047 durch den kalifornischen Haushaltsausschuss einen Brief Sie forderte Gouverneur Newsom auf, ein Veto gegen SB 1047 einzulegen, und schrieb, der Gesetzentwurf sei „weder gut für unseren Staat, noch für die Startup-Community, noch für die wissenschaftliche Entwicklung, noch nicht einmal für den Schutz vor möglichen Schäden im Zusammenhang mit der Entwicklung künstlicher Intelligenz.“
Wie geht es weiter?
SB 1047 wird nun zur endgültigen Abstimmung an das kalifornische Parlament weitergeleitet. Wird es dort angenommen, muss es aufgrund dieser jüngsten Änderungen zur Abstimmung an den kalifornischen Senat zurückverwiesen werden. Wird es in beiden Fällen angenommen, landet es auf dem Schreibtisch von Gouverneur Newsom, wo es entweder abgelehnt oder in Kraft gesetzt werden könnte.