Ein Bundesrichter blockierte am Mittwoch eines der neuen KI-Gesetze Kaliforniens, weniger als zwei Wochen nach seiner Unterzeichnung durch Gouverneur Gavin Newsom. Kurz nach der Unterzeichnung von AB 2839 schlug Newsom vor, dass man sich daran gewöhnen könnte Elon Musk zum Abstieg zwingen ein KI-Deepfake von Vizepräsidentin Kamala Harris, den er erneut gepostet hatte (und der einen… Kleiner Online-Kampf zwischen den beiden). Allerdings hat ein kalifornischer Richter gerade entschieden, dass der Staat Menschen nicht dazu zwingen kann, Wahlfälschungen zu entfernen – zumindest noch nicht.
AB 2839 zielt auf die Verbreiter von KI-Deepfakes in sozialen Medien ab, insbesondere wenn ihr Beitrag einem politischen Kandidaten ähnelt und der Poster weiß, dass es sich um eine Fälschung handelt, die die Wähler verwirren könnte. Das Gesetz ist einzigartig, weil es sich nicht gegen die Plattformen richtet, auf denen KI-Deepfakes auftauchen, sondern gegen diejenigen, die sie verbreiten. AB 2839 ermächtigt kalifornische Richter, die Plakate von KI-Deepfakes anzuweisen, sie zu entfernen, andernfalls drohen möglicherweise Geldstrafen.
Aber der ursprüngliche Poster dieses KI-Deepfakes – ein X-Benutzer namens Christopher Kohls – reichte nur einen Tag nach seiner Unterzeichnung eine Klage ein, um das neue kalifornische Gesetz als verfassungswidrig zu blockieren. Kohls‘ Anwalt schrieb in einem Beschwerde dass der Deepfake von Kamala Harris eine Satire ist, die durch den Ersten Verfassungszusatz geschützt werden sollte.
Am Mittwoch stellte sich der US-Bezirksrichter John Mendez auf die Seite von Kohls. Mendez ordnete eine einstweilige Verfügung an, um den kalifornischen Generalstaatsanwalt vorübergehend daran zu hindern, das neue Gesetz gegen Kohls oder andere Personen durchzusetzen, mit Ausnahme von Audionachrichten, die unter AB 2839 fallen.
Lesen Sie selbst, was Richter Mendez gesagt hat seine Entscheidung:
„Fast jeder digital veränderte Inhalt könnte als schädlich angesehen werden, wenn er einer beliebigen Person im Internet überlassen wird. Beispielsweise könnten von der KI generierte ungefähre Zahlen zur Wahlbeteiligung als falscher Inhalt angesehen werden, der das Vertrauen in den Ausgang einer Wahl gemäß diesem Gesetz angemessen untergräbt. Andererseits viele ‚„Schädliche“ Darstellungen wirken sich, wenn sie einer Vielzahl von Personen gezeigt werden, letztendlich möglicherweise nicht auf die Wahlaussichten aus oder untergräbt das Vertrauen in eine Wahl. Wie der Kläger überzeugend hervorhebt, stützt sich AB 2839 „auf verschiedene subjektive Begriffe und umständlich formulierte Männerrea“, was dazu führt, dass große Mengen politischer und verfassungsrechtlich geschützter Meinungsäußerung impliziert werden …
[W]Auch wenn eine begründete Angst vor einer digital manipulierten Medienlandschaft berechtigt sein mag, gibt diese Angst den Gesetzgebern nicht die uneingeschränkte Freiheit, die langjährige Tradition der Kritik, Parodie und Satire, die durch den Ersten Verfassungszusatz geschützt wird, zu zerstören. YouTube-Videos, Facebook-Posts und X-Tweets sind die Zeitungsanzeigen und politischen Cartoons von heute, und der Erste Verfassungszusatz schützt das Recht des Einzelnen, sich zu äußern, unabhängig davon, in welchem neuen Medium diese Kritik geübt wird. Andere gesetzliche Klagegründe wie Datenschutzdelikte, Urheberrechtsverletzungen oder Verleumdung sehen bereits den Rückgriff auf Persönlichkeiten des öffentlichen Lebens oder Privatpersonen vor, deren Ruf durch künstlich veränderte Darstellungen, die von Satirikern oder Opportunisten im Internet verbreitet werden, beeinträchtigt werden kann.
Die Aufzeichnungen zeigen, dass der Bundesstaat Kalifornien ein starkes Interesse daran hat, die Integrität der Wahlen zu wahren und gegen künstlich manipulierte Inhalte vorzugehen. Das Interesse Kaliforniens und die Härte, mit der der Staat konfrontiert ist, sind jedoch minimal, wenn man sie an der Schwere der auf dem Spiel stehenden Werte des Ersten Verfassungszusatzes und den anhaltenden Verfassungsverstößen misst, denen der Kläger und andere in ähnlicher Lage befindliche Ersteller von Inhalten ausgesetzt sind, während ihre Rede unterdrückt wird.„
Im Wesentlichen, sagt er, sei das Gesetz einfach zu weit gefasst und könne dazu führen, dass die staatlichen Behörden ernsthaft darüber hinausgehen, welche Rede erlaubt sei und was nicht.
Da es sich hierbei um eine einstweilige Verfügung handelt, müssen wir abwarten, ob dieses kalifornische Gesetz wirklich für immer oder nur vorerst blockiert ist, aber so oder so wird es wahrscheinlich keine großen Auswirkungen auf die Wahlen im nächsten Monat haben. AB 2839 ist eines von 18 neuen Gesetzen zum Thema KI, die Newsom im letzten Monat unterzeichnet hat.
Dennoch ist es ein großer Gewinn für Elon Musks Lager der Plakate zur freien Meinungsäußerung auf X. In den Tagen nach der Unterzeichnung von AB 2839 durch Newsom veröffentlichten Musk und seine üblichen Verbündeten eine Serie von KI-Deepfakes das das neue kalifornische Gesetz auf die Probe stellte.