Der Gouverneur von Kalifornien, Gavin Newsom, prüft derzeit 38 KI-bezogene Gesetzesentwürfe, darunter den höchst umstrittenen SB 1047, den ihm die Legislative des Staates zur endgültigen Genehmigung vorgelegt hat. Diese Gesetzesentwürfe versuchen, die dringendsten Probleme der künstlichen Intelligenz anzugehen: von futuristischen KI-Systemen, die existenzielle Risiken schaffen, über Deepfake-Aktfotos von KI-Bildgeneratoren bis hin zu Hollywood-Studios, die KI-Klone toter Darsteller erstellen.
„Kalifornien ist Sitz der meisten der weltweit führenden KI-Unternehmen und arbeitet daran, diese transformativen Technologien zu nutzen, um dringende Herausforderungen anzugehen und gleichzeitig die damit verbundenen Risiken zu untersuchen“, sagte das Büro von Gouverneur Newsom in einem Pressemitteilung.
Bisher hat Gouverneur Newsom neun davon in Kraft gesetzt; einige davon sind die bislang weitreichendsten KI-Gesetze Amerikas.
KI-Robocalls
Am Freitag unterzeichnete Gouverneur Newsom einen Gesetzentwurf, der bei Robocalls die Offenlegung der Tatsache vorschreibt, ob bei ihnen KI-generierte Stimmen zum Einsatz kommen. AB 2905 zielt darauf ab, einen weiteren Fall des Deepfake-Robocalls zu verhindern, der der Stimme von Joe Biden ähnelt und Anfang des Jahres viele Wähler in New Hampshire verwirrte.
Deepfake-Aktfotos
Newsom unterzeichnete am Donnerstag zwei Gesetze, die sich mit der Erstellung und Verbreitung von Deepfake-Nacktfotos befassen. SB 926 stellt die Tat unter Kriminalisierung und macht es illegal, jemanden mit KI-generierten Nacktbildern zu erpressen, die der betreffenden Person ähneln.
SB 981das ebenfalls am Donnerstag in Kraft trat, verpflichtet Social-Media-Plattformen, Kanäle einzurichten, über die Benutzer Deepfake-Nacktbilder melden können, die ihnen ähneln. Der Inhalt muss dann vorübergehend blockiert werden, während die Plattform ihn untersucht, und bei Bestätigung dauerhaft entfernt werden.
Wasserzeichen
Ebenfalls am Donnerstag unterzeichnete Newsom einen Gesetzentwurf, der der Öffentlichkeit helfen soll, KI-generierte Inhalte zu identifizieren. SB 942 erfordert, dass weit verbreitete generative KI-Systeme in den Herkunftsdaten ihrer Inhalte offenlegen, dass sie KI-generiert sind. Beispielsweise benötigen alle von OpenAIs Dall-E erstellten Bilder jetzt einen kleinen Tag in ihren Metadaten, der besagt, dass sie KI-generiert sind.
Viele KI-Unternehmen tun dies bereits, und es gibt mehrere kostenlose Tools, die den Benutzern helfen können, diese Herkunftsdaten zu lesen und KI-generierte Inhalte zu erkennen.
Wahl-Deepfakes
Anfang dieser Woche unterzeichnete der Gouverneur von Kalifornien drei Gesetze zur Bekämpfung von KI-Deepfakes, die Wahlen beeinflussen könnten.
Eines der neuen Gesetze Kaliforniens, AB 2655verpflichtet große Online-Plattformen wie Facebook und X, KI-Deepfakes im Zusammenhang mit Wahlen zu entfernen oder zu kennzeichnen sowie Kanäle zur Meldung solcher Inhalte einzurichten. Kandidaten und gewählte Amtsträger können eine einstweilige Verfügung beantragen, wenn eine große Online-Plattform das Gesetz nicht einhält.
Ein anderes Gesetz, AB 2839zielt auf Social-Media-Nutzer ab, die KI-Deepfakes posten oder reposten, die Wähler über bevorstehende Wahlen täuschen könnten. Das Gesetz trat am Dienstag sofort in Kraft, und Newsom deutete an, dass Elon Musk möglicherweise Gefahr läuft, es zu verletzen.
KI-generierte politische Anzeigen erfordern nach dem neuen kalifornischen Gesetz nun eine vollständige Offenlegung. AB 2355. Das bedeutet, dass Trump in Zukunft möglicherweise nicht ungestraft davonkommen wird, KI-Deepfakes von Taylor Swift zu veröffentlichen, die ihn auf Truth Social unterstützt (sie hat Kamala Harris unterstützt). Die FCC hat eine ähnliche Offenlegungspflicht auf nationaler Ebene vorgeschlagen und Robocalls mit KI-generierten Stimmen bereits für illegal erklärt.
Schauspieler und KI
Zwei Gesetze, die Newsom am Dienstag unterzeichnete – und auf die sich SAG-AFTRA, die größte Gewerkschaft der Film- und Rundfunkschauspieler des Landes, berufen hatte – setzen neue Standards für die kalifornische Medienbranche. AB 2602 erfordert, dass Studios die Erlaubnis eines Schauspielers einholen, bevor sie eine KI-generierte Nachbildung seiner Stimme oder seines Abbilds erstellen.
In der Zwischenzeit, AB 1836 verbietet es Studios, digitale Repliken verstorbener Künstler ohne Zustimmung deren Nachlasses zu erstellen (rechtlich genehmigte Repliken wurden beispielsweise in den jüngsten „Alien“- und „Star Wars“-Filmen sowie in anderen Filmen verwendet).
Was bleibt?
Gouverneur Newsom muss bis Ende September noch über 29 KI-bezogene Gesetzesentwürfe entscheiden. Während eines Gesprächs mit Salesforce-CEO Marc Benioff am Dienstag während der Dreamforce-Konferenz 2024 hat Newsom möglicherweise seinen Hut vor SB 1047 gezogen und darüber gesprochen, wie er über eine umfassendere Regulierung der KI-Branche nachdenkt.
„Es gibt einen Gesetzentwurf, der in Bezug auf die öffentliche Debatte und das öffentliche Bewusstsein eine gewisse Übergröße hat; es ist dieser SB 1047“, sagte Newsom am Dienstag auf der Bühne. „Was sind die nachweisbaren Risiken der KI und was sind die hypothetischen Risiken? Ich kann nicht alles lösen. Was können wir lösen? Und das ist der Ansatz, den wir in dieser Angelegenheit über das gesamte Spektrum hinweg verfolgen.“
Schauen Sie in diesem Artikel noch einmal vorbei, um sich über die aktuellen Gesetze zur KI zu informieren, die der Gouverneur von Kalifornien unterzeichnet und welche nicht.