Im September prüfte der Gouverneur von Kalifornien, Gavin Newsom, 38 Gesetzesentwürfe im Zusammenhang mit KI, darunter den höchst umstrittenen SB 1047, den ihm der Gesetzgeber des Bundesstaates zur endgültigen Genehmigung auf den Schreibtisch schickte. Er legte am Sonntag sein Veto gegen SB 1047 ein und markierte damit das Ende des Weges für Kaliforniens umstrittenes KI-Gesetz, das KI-Katastrophen verhindern wollte, aber im September mehr als ein Dutzend weitere KI-Gesetze in Kraft setzte. Diese Gesetzesentwürfe versuchen, die drängendsten Probleme der künstlichen Intelligenz anzugehen: von KI-Risiken über Deepfake-Aktfotos, die von KI-Bildgeneratoren erstellt wurden, bis hin zu Hollywood-Studios, die KI-Klone toter Künstler erstellen.
„Kalifornien ist die Heimat der meisten der weltweit führenden KI-Unternehmen und arbeitet daran, diese transformativen Technologien zu nutzen, um drängende Herausforderungen zu bewältigen und gleichzeitig die damit verbundenen Risiken zu untersuchen“, sagte das Büro von Gouverneur Newsom in einer Stellungnahme Pressemitteilung.
Bisher hat Gouverneur Newsom 18 KI-Gesetze unterzeichnet, von denen einige Amerikas bislang weitreichendste Gesetze zur generativen KI sind. Hier ist, was sie tun.
KI-Risiko
Am Sonntag unterzeichnete Gouverneur Newsom das Gesetz SB 896, das das kalifornische Office of Emergency Services dazu verpflichtet, Risikoanalysen zu potenziellen Bedrohungen durch generative KI durchzuführen. CalOES wird mit Pioniermodellunternehmen wie OpenAI und Anthropic zusammenarbeiten, um die potenziellen Bedrohungen der KI für kritische staatliche Infrastrukturen sowie Bedrohungen, die zu Massenunfallereignissen führen könnten, zu analysieren.
Trainingsdaten
Ein weiteres Gesetz, das Newsom diesen Monat unterzeichnet hat, verlangt von Anbietern generativer KI, die Daten, die zum Training ihrer KI-Systeme verwendet werden, in der auf ihrer Website veröffentlichten Dokumentation offenzulegen. AB 2013 tritt im Jahr 2026 in Kraft und verlangt von KI-Anbietern die Veröffentlichung von: den Quellen ihrer Datensätze, einer Beschreibung, wie die Daten verwendet werden, der Anzahl der Datenpunkte im Satz, ob urheberrechtlich geschützte oder lizenzierte Daten enthalten sind, dem Zeitraum der Daten wurde unter anderem Standards gesammelt.
Datenschutz- und KI-Systeme
Newsom hat ebenfalls unterschrieben AB 1008 am Sonntag, in dem klargestellt wird, dass die bestehenden Datenschutzgesetze Kaliforniens auch auf generative KI-Systeme ausgeweitet werden. Das heißt, wenn ein KI-System wie ChatGPT die persönlichen Daten einer Person (Name, Adresse, biometrische Daten) preisgibt, schränken die bestehenden Datenschutzgesetze Kaliforniens die Art und Weise ein, wie Unternehmen diese Daten nutzen und daraus Profit ziehen können.
Ausbildung
Newsom unterschrieben AB 2876 In diesem Monat muss das kalifornische State Board of Education „KI-Kenntnisse“ in seinen Lehrplänen und Lehrmaterialien für Mathematik, Naturwissenschaften und Geschichte berücksichtigen. Dies bedeutet, dass die kalifornischen Schulen damit beginnen können, den Schülern die Grundlagen der Funktionsweise künstlicher Intelligenz sowie die Einschränkungen, Auswirkungen und ethischen Überlegungen des Einsatzes der Technologie zu vermitteln.
Ein weiteres neues Gesetz, SB 1288verlangt von kalifornischen Schulleitern, Arbeitsgruppen zu bilden, um zu untersuchen, wie KI in der öffentlichen Schulbildung eingesetzt wird.
KI definieren
Diesen Monat unterzeichnete Newsom einen Gesetzentwurf, der eine einheitliche Definition für künstliche Intelligenz im kalifornischen Recht festlegt. AB 2885 besagt, dass künstliche Intelligenz definiert ist als „ein technisches oder maschinenbasiertes System, dessen Autonomiegrad variiert und das für explizite oder implizite Ziele aus den empfangenen Eingaben ableiten kann, wie Ausgaben generiert werden können, die physische oder virtuelle Umgebungen beeinflussen können.“ ”
Gesundheitspflege
Ein weiterer im September unterzeichneter Gesetzentwurf ist AB 3030das von Gesundheitsdienstleistern verlangt, offenzulegen, wenn sie generative KI zur Kommunikation mit einem Patienten verwenden, insbesondere wenn diese Nachrichten klinische Informationen eines Patienten enthalten.
Unterdessen hat Newsom kürzlich unterschrieben SB 1120Dies schränkt die Art und Weise ein, wie Gesundheitsdienstleister und Krankenversicherer ihre Dienste automatisieren können. Das Gesetz stellt sicher, dass zugelassene Ärzte den Einsatz von KI-Tools in diesen Situationen überwachen.
KI-Robocalls
Letzten Freitag unterzeichnete Gouverneur Newsom einen Gesetzentwurf, der Robocalls dazu verpflichtet, offenzulegen, ob sie KI-generierte Stimmen verwendet haben. AB 2905 zielt darauf ab, einen weiteren Fall des Deepfake-Robocalls zu verhindern, der der Stimme von Joe Biden ähnelt und Anfang des Jahres viele Wähler in New Hampshire verwirrte.
Deepfake-Pornografie
Am Sonntag unterschrieb Newsom AB 1831 in ein Gesetz umgewandelt, das den Geltungsbereich der bestehenden Kinderpornografiegesetze um Inhalte erweitert, die von KI-Systemen erzeugt werden.
Newsom hat letzte Woche zwei Gesetze unterzeichnet, die die Erstellung und Verbreitung von Deepfake-Aktfotos regeln. SB 926 kriminalisiert die Tat und macht es illegal, jemanden mit KI-generierten Nacktbildern zu erpressen, die ihm ähneln.
SB 981das am Donnerstag ebenfalls in Kraft trat, verlangt von Social-Media-Plattformen, Kanäle einzurichten, über die Benutzer Deepfake-Aktfotos melden können, die ihnen ähneln. Der Inhalt muss dann vorübergehend gesperrt werden, während die Plattform ihn untersucht, und bei Bestätigung dauerhaft entfernt werden.
Wasserzeichen
Ebenfalls am Donnerstag unterzeichnete Newsom einen Gesetzentwurf, der der Öffentlichkeit helfen soll, KI-generierte Inhalte zu identifizieren. SB 942 erfordert, dass weit verbreitete generative KI-Systeme in den Herkunftsdaten ihrer Inhalte offenlegen, dass sie KI-generiert sind. Beispielsweise benötigen alle von Dall-E von OpenAI erstellten Bilder jetzt einen kleinen Tag in ihren Metadaten, der darauf hinweist, dass sie von der KI generiert wurden.
Viele KI-Unternehmen tun dies bereits, und es gibt mehrere kostenlose Tools, die Menschen dabei helfen können, diese Herkunftsdaten zu lesen und KI-generierte Inhalte zu erkennen.
Wahl-Deepfakes
Anfang dieser Woche unterzeichnete der Gouverneur von Kalifornien drei Gesetze, die gegen KI-Deepfakes vorgehen, die Wahlen beeinflussen könnten.
Eines der neuen Gesetze Kaliforniens, AB 2655verlangt von großen Online-Plattformen wie Facebook und X, KI-Deepfakes im Zusammenhang mit Wahlen zu entfernen oder zu kennzeichnen und Kanäle zur Meldung solcher Inhalte einzurichten. Kandidaten und gewählte Amtsträger können eine einstweilige Verfügung beantragen, wenn eine große Online-Plattform sich nicht an das Gesetz hält.
Ein anderes Gesetz, AB 2839zielt auf Social-Media-Nutzer ab, die KI-Deepfakes veröffentlichen oder erneut veröffentlichen, die Wähler über bevorstehende Wahlen täuschen könnten. Das Gesetz trat am Dienstag sofort in Kraft und Newsom deutete an, dass Elon Musk möglicherweise Gefahr läuft, dagegen zu verstoßen.
KI-generierte politische Werbung erfordert nun nach dem neuen kalifornischen Gesetz eine direkte Offenlegung. AB 2355. Das bedeutet, dass Trump in Zukunft möglicherweise nicht damit durchkommt, KI-Deepfakes von Taylor Swift zu posten, die ihn auf Truth Social unterstützt (sie unterstützte Kamala Harris). Die FCC hat eine ähnliche Offenlegungspflicht auf nationaler Ebene vorgeschlagen und Robocalls mit KI-generierten Stimmen bereits für illegal erklärt.
Schauspieler und KI
Zwei Gesetze, die Newsom Anfang des Monats unterzeichnet hat und auf die SAG-AFTRA, die größte Film- und Rundfunkschauspielergewerkschaft des Landes, drängte, schaffen neue Standards für die kalifornische Medienindustrie. AB 2602 verlangt von Studios, dass sie die Erlaubnis eines Schauspielers einholen, bevor sie eine KI-generierte Nachbildung seiner Stimme oder seines Abbilds erstellen.
In der Zwischenzeit, AB 1836 verbietet Studios die Erstellung digitaler Nachbildungen verstorbener Künstler ohne Zustimmung ihrer Nachlässe (z. B. wurden in den jüngsten „Alien“- und „Star Wars“-Filmen sowie in anderen Filmen gesetzlich genehmigte Nachbildungen verwendet).
SB 1047 wird abgelehnt
Gouverneur Newsom muss vor Ende September noch über einige Gesetzesentwürfe im Zusammenhang mit KI entscheiden. Allerdings gehört SB 1047 nicht dazu – der Gesetzentwurf wurde am Sonntag abgelehnt.
In einem Brief, in dem er seine Entscheidung erläutertLaut Newsom konzentrierte sich SB 1047 zu eng auf große KI-Systeme, die „der Öffentlichkeit ein falsches Sicherheitsgefühl vermitteln könnten“. Der Gouverneur von Kalifornien stellte fest, dass kleine KI-Modelle genauso gefährlich sein könnten wie die von SB 1047 anvisierten, und sagte, dass ein flexiblerer Regulierungsansatz erforderlich sei.
Während eines Gesprächs mit Salesforce-CEO Marc Benioff Anfang dieses Monats während der Dreamforce-Konferenz 2024 hat Newsom möglicherweise seinen Hut vor SB 1047 gezogen und darüber, wie er über eine umfassendere Regulierung der KI-Branche nachdenkt.
„Es gibt einen Gesetzentwurf, der im Hinblick auf den öffentlichen Diskurs und das Bewusstsein irgendwie überdimensioniert ist; Es ist dieser SB 1047“, sagte Newsom diesen Monat auf der Bühne. „Was sind die nachweisbaren Risiken in der KI und was sind die hypothetischen Risiken? Ich kann nicht alles lösen. Was können wir lösen? Das ist also der Ansatz, den wir in dieser Angelegenheit im gesamten Spektrum verfolgen.“
Schauen Sie sich diesen Artikel noch einmal an, um zu erfahren, welche KI-Gesetze der Gouverneur von Kalifornien unterzeichnet und welche nicht.