Der Autor des kalifornischen SB 1047, der umstrittenste KI -Sicherheitsrechnung des Landes 2024, ist mit einer neuen KI -Rechnung zurück, die das Silicon Valley aufrütteln könnte.
Scott Wiener, Senator des kalifornischen Staates, stellte a vor Neue Rechnung Am Freitag schützen die Mitarbeiter in führenden AI Labs und ermöglichen es ihnen, sich auszusprechen, wenn sie der Meinung sind, dass die KI -Systeme ihres Unternehmens ein „kritisches Risiko“ für die Gesellschaft sein könnten. Der neue Gesetzentwurf SB 53 würde auch einen öffentlichen Cloud -Computing -Cluster mit Calcompute erstellen, um Forschern und Startups die erforderlichen Rechenressourcen für die Entwicklung von KI zu geben, die der Öffentlichkeit zugute kommen.
Wieners letzter AI Bill, Kaliforniens SB 1047, löste im ganzen Land eine lebhafte Debatte darüber aus, wie man mit massiven KI -Systemen umgehen kann, die Katastrophen verursachen könnten. SB 1047 zielte darauf ab, die Möglichkeit von sehr großen KI -Modellen zu verhindern, katastrophale Ereignisse zu erzeugen, z. Gouverneur Gavin Newsom habe die Gesetzesvorlage im September letztendlich eingelegt und sagte, SB 1047 sei nicht der beste Ansatz.
Aber die Debatte über SB 1047 wurde schnell hässlich. Einige Führer von Silicon Valley sagten, SB 1047 würde den Wettbewerbsvorteil Amerikas im globalen KI-Rennen beeinträchtigen und behaupteten, die Rechnung sei von unrealistischen Befürchtungen inspiriert, dass KI-Systeme Science Fiction-ähnliche Doomsday-Szenarien bewirken könnten. In der Zwischenzeit behauptete Senator Wiener, dass einige Risikokapitalgeber eine „Propaganda -Kampagne“ gegen seinen Gesetzentwurf beteiligen, was teilweise auf die Behauptung von Y Combinator hinwies, dass SB 1047 Startup -Gründer ins Gefängnis schicken würde, wie ein Anspruchsexperten argumentierte, sei irreführend.
SB 53 nimmt im Wesentlichen die am wenigsten kontroversen Teile von SB 1047 – wie Whistleblower -Schutz und die Einrichtung eines Calcomput -Clusters – in eine neue AI -Rechnung um.
Insbesondere scheut Wiener in SB 53 nicht vor dem existenziellen KI -Risiko. Die neue Rechnung schützt ausdrücklich Whistleblower, die glauben, dass ihre Arbeitgeber KI -Systeme schaffen, die ein „kritisches Risiko“ darstellen. Die Rechnung definiert ein kritisches Risiko als “vorhersehbares oder materielles Risiko, dass die Entwicklung, Lagerung oder Einstellung eines Fundamentmodells eines Entwicklers wie definiert zu einem Tod oder einer schweren Verletzung von mehr als 100 Menschen oder mehr als 1 Milliarde US -Dollar an Geld- oder Eigentumsrechten führen wird. “
SB 53 begrenzt Grenze AI -Modellentwickler – wahrscheinlich auch OpenAI, Anthropic und XAI -, sich gegen Mitarbeiter zu verweisen, die Informationen über Informationen an den Generalstaatsanwalt Kaliforniens, die Bundesbehörden oder andere Mitarbeiter offenlegen. Nach der Gesetzesvorlage müssten diese Entwickler bei bestimmten internen Prozessen, die die Whistleblower finden, an Whistleblowers zurückreichen.
In CalCompute würde SB 53 eine Gruppe einrichten, um einen öffentlichen Cloud -Computing -Cluster aufzubauen. Die Gruppe würde aus Vertretern der Universität von Kalifornien sowie anderen öffentlichen und privaten Forschern bestehen. Es würde Empfehlungen zum Erstellen von Calcompute, wie groß der Cluster sein sollte und welche Benutzer und Organisationen Zugriff darauf haben sollten.
Natürlich ist es sehr früh im Legislativverfahren für SB 53. Der Gesetzentwurf muss von den kalifornischen Legislativbehörden überprüft und verabschiedet werden, bevor er den Schreibtisch von Gouverneur Newsom erreicht. Die Gesetzgeber des Bundesstaates werden sicherlich auf die Reaktion des Silicon Valley auf SB 53 warten.
2025 ist jedoch möglicherweise ein schwierigeres Jahr, um KI-Sicherheitsrechnungen im Vergleich zu 2024 zu verabschieden. Kalifornien hat im Jahr 2024 18 KI-bezogene Rechnungen verabschiedet, aber jetzt scheint es, als hätte die KI-Schicksalsbewegung den Boden verloren.
Vizepräsident JD Vance signalisierte auf dem Paris AI Action Summit, dass Amerika nicht an KI -Sicherheit interessiert ist, sondern die KI -Innovation eher priorisiert. Während der von SB 53 festgelegte Calcompute -Cluster sicherlich als Fortschritt der KI angesehen werden könnte, ist unklar, wie die gesetzgeberischen Bemühungen um existenzielles KI -Risiko im Jahr 2025 abschneiden werden.