Am Dienstag unterzeichnete Kaliforniens Gouverneur Gavin Newsom einige der bislang strengsten Gesetze zur Regulierung des künstlichen Intelligenzsektors in Amerika. Drei dieser Gesetze gehen gegen KI-Deepfakes vor, die Wahlen beeinflussen könnten, während zwei andere Hollywood-Studios verbieten, ohne deren Zustimmung einen KI-Klon des Körpers oder der Stimme eines Schauspielers zu erstellen.
„Kalifornien ist Sitz der meisten der weltweit führenden KI-Unternehmen und arbeitet daran, diese transformativen Technologien zu nutzen, um dringende Herausforderungen anzugehen und gleichzeitig die damit verbundenen Risiken zu untersuchen“, sagte das Büro von Gouverneur Newsom in einem Pressemitteilung Dienstag.
Eines der neuen Gesetze Kaliforniens, AB 2655, verpflichtet große Online-Plattformen wie Facebook und X, KI-Deepfakes im Zusammenhang mit Wahlen zu entfernen oder zu kennzeichnen sowie Kanäle zur Meldung solcher Inhalte einzurichten. Kandidaten und gewählte Amtsträger können eine einstweilige Verfügung beantragen, wenn eine große Online-Plattform das Gesetz nicht einhält.
Ein weiteres Gesetz, 2355, verlangt die Offenlegung von KI-generierten politischen Anzeigen. Das bedeutet, dass Trump in Zukunft möglicherweise nicht ungestraft davonkommen wird, KI-Deepfakes von Taylor Swift zu veröffentlichen, die ihn auf Truth Social unterstützen (sie unterstützte Kamala Harris). Die FCC hat eine ähnliche Offenlegungspflicht auf nationaler Ebene vorgeschlagen und bereits Robocalls mit KI-generierten Stimmen für illegal erklärt.
Die letzten beiden KI-Gesetze, die am Dienstag unterzeichnet wurden – und auf die sich die größte Film- und Fernsehschauspielergewerkschaft des Landes, SAG-AFTRA, berufen hatte – setzen neue Standards für die kalifornische Medienbranche. AB 2602 verpflichtet Studios, die Erlaubnis eines Schauspielers einzuholen, bevor sie eine KI-generierte Nachbildung seiner Stimme oder seines Bildes erstellen. Unterdessen verbietet AB 1836 Studios, digitale Nachbildungen verstorbener Darsteller ohne Zustimmung ihrer Nachlässe zu erstellen. (Rechtlich genehmigte Nachbildungen wurden beispielsweise in den jüngsten Filmen Alien, Star Wars und anderen verwendet.)
Gouverneur Newsom prüft derzeit mehrere KI-bezogene Gesetzesentwürfe, darunter den äußerst umstrittenen SB 1047, den der Senat von Kalifornien zur endgültigen Genehmigung an seinen Schreibtisch geschickt hat. Während eines Gesprächs mit Salesforce-CEO Mark Benioff am Dienstag hat Newsom möglicherweise seinen Hut gezogen, Berichten zufolge spiegelt dies die Bedenken wider von den Gegnern von SB 1047, dass der Gesetzesentwurf eine abschreckende Wirkung auf die Open-Source-Community haben könnte. Er hat zwei Wochen Zeit, den Gesetzesentwurf zu unterzeichnen oder sein Veto einzulegen.