Kalifornien Gouverneur Gavin Newsom unterzeichnete am Dienstag eine Reihe von Gesetzentwürfen zum Verbot politischer „Deepfakes“ und anderer irreführender digitaler Audio- und Videoinhalte, die mit künstlicher Intelligenz erstellt wurden, und erfüllte damit sein Versprechen, Maßnahmen zu ergreifen, nachdem er kritisiert hatte Elon MuskCEO von X (ehemals Twitter), weil er ein manipuliertes Video von Vizepräsidentin Kamala Harris geteilt hatte.
„Es ist mir egal, ob es Harris oder Trump war“, sagte Newsom am selben Tag während eines Gesprächs mit Salesforce-CEO Marc Benioff. „Es war einfach auf jeder Ebene falsch“, berichtete Politico.
Als Reaktion auf Newsoms Unterzeichnung der Gesetze behauptete Elon Musk, der Gouverneur habe Parodien praktisch für illegal erklärt und damit gegen die Verfassung der Vereinigten Staaten verstoßen.
Er teilte ein Video mit einer satirischen Darstellung von Harris, in dem sie ihre Qualifikationen verspottet und sarkastische Kommentare über Diversity-Einstellung und politische Kompetenz abgibt. Das Video imitiert Harris‘ Stimme, aber anstatt ihre tatsächlichen Worte aus der Originalanzeige zu verwenden, wird sie fälschlicherweise so dargestellt, als würde sie sagen, Präsident Biden sei senil und wisse „nicht das Geringste darüber, wie man das Land regiert“.
Das von der KI generierte Video enthielt Aussagen wie „Ich wurde ausgewählt, weil ich die ultimative Diversity-Einstellung bin. Wenn Sie irgendetwas kritisieren, was ich sage, sind Sie sowohl Sexist als auch Rassist“, was ein Seitenhieb auf Harris war.
Musk veröffentlichte außerdem einen viralen Beitrag mit demselben Video von Harris und erklärte: „Das Video, das den kalifornischen Gouverneur Gavin Newsom beleidigt hat, ist jetzt auf X im Trend.“
„Wie damals, als Streisand jemanden verklagte, weil dieser ihre sehr offensichtliche Adresse in Malibu preisgegeben hatte. Dadurch blieb die Sache wirklich unter Verschluss, lmao“, fügte Musk hinzu.
Trump hat außerdem mithilfe künstlicher Intelligenz erstellte Bilder geteilt, mit denen er angeblich seine Unterstützung unter den schwarzen Wählern zeigen will. Auf einem weiteren Bild ist eine Figur zu sehen, die Kamala Harris ähnelt und vor einer Gruppe von Kommunisten spricht, berichtete „The Fortune“.
„Die Wahrung der Integrität von Wahlen ist für die Demokratie von wesentlicher Bedeutung und es ist entscheidend, dass wir sicherstellen, dass KI nicht eingesetzt wird, um das Vertrauen der Öffentlichkeit durch Desinformation zu untergraben – insbesondere im heutigen angespannten politischen Klima“, sagte Newsom in einer Erklärung.
„Diese Maßnahmen werden dazu beitragen, den schädlichen Einsatz von Deepfakes in politische Anzeigen und andere Inhalte, einer von mehreren Bereichen, in denen der Staat proaktiv vorgeht, um eine transparente und vertrauenswürdige KI zu fördern“, fügte er hinzu.
Was sind Deepfakes
Deepfakes sind „hochrealistische und schwer zu erkennende digitale Manipulationen von Audio- oder Videodateien“. Der Begriff ist eine Mischung aus „Deep Learning“ und „Fakes“ und spiegelt die Kombination fortschrittlicher Techniken des maschinellen Lernens wider, die verwendet werden, um überzeugende, aber dennoch irreführende digitale Inhalte zu erstellen.
Was sind die 3 Rechnungen
Unter Gesetzesentwurf 2355 der Versammlungmuss in politischen Anzeigen offengelegt werden, ob bei der Erstellung oder Änderung von in der Anzeige enthaltenen Materialien generative KI-Technologie eingesetzt wurde. Diese Maßnahme soll sicherstellen, dass die Wähler über den Einsatz von KI in politischen Botschaften informiert sind.
Der Gesetzesentwurf 2655 der US-Versammlung verpflichtet große Online-Plattformen, irreführende Wahlinhalte innerhalb von 72 Stunden nach Erhalt eines Benutzerberichts zu entfernen oder zu kennzeichnen. Die Nichteinhaltung dieser Anforderung führt zu einer Haftung der Plattform.
„Von KI generierte Deepfakes stellen ein klares und gegenwärtiges Risiko für unsere Wahlen und unsere Demokratie dar. AB 2655 ist eine landesweit erste Lösung für diese wachsende Bedrohung, und ich bin Gouverneur Newsom dankbar, dass er es unterzeichnet hat. Fortschritte in der KI in den letzten Jahren machen es einfach, hyperrealistische, aber völlig gefälschte wahlbezogene Deepfakes zu erstellen, aber AB 2655 wird sicherstellen, dass Online-Plattformen ihre Auswirkungen minimieren. Das neue Gesetz ist ein Gewinn für die Wähler Kaliforniens und für unsere Demokratie“, so das Abgeordnete Marc Bermander den Gesetzentwurf vorgeschlagen hat, sagte in der Erklärung.
Schließlich zielt der Gesetzesentwurf 2839 der kalifornischen Parlamentsversammlung speziell auf Personen ab, die mithilfe von KI-Technologie irreführende Inhalte über Kandidaten und Wahlhelfer erstellen oder veröffentlichen. Der Gesetzesentwurf verbietet derartige Handlungen innerhalb von 120 Tagen vor und 60 Tagen nach einer Wahl. Bei Verstößen kann ein Richter die Entfernung der Inhalte anordnen und eine Geldstrafe verhängen.
Warum ist das Verbot wichtig
Diese Maßnahmen zielen darauf ab, die Transparenz und Rechenschaftspflicht im digitalen Bereich zu erhöhen, insbesondere in Wahlperioden.
Mit dem Titel Gesetz zur Verteidigung der Demokratie vor dem Deep Fake Deception ActDas kürzlich eingeführte Gesetz verpflichtet große Online-Plattformen dazu, ihre Benutzer daran zu hindern, „wesentlich irreführende“ wahlbezogene Inhalte zu teilen, während sich die Kalifornier darauf vorbereiten, ihr Stimmrecht auszuüben.
Der schnelle Fortschritt der KI hat verschiedene Befürchtungen geweckt. Unter anderem könnte sie demokratische Prozesse beeinträchtigen, betrügerische Aktivitäten verstärken und zu Arbeitsplatzverlusten führen.
Diese Bedenken haben die Gesetzgeber dazu veranlasst, aktiv zu werden und Maßnahmen zu ergreifen, um den negativen Auswirkungen der KI entgegenzuwirken.
Die Biden-Regierung unter Führung des demokratischen Präsidenten hat sich für die Regulierung künstlicher Intelligenz eingesetzt. Der gespaltene Kongress, in dem das Repräsentantenhaus von den Republikanern und der Senat von den Demokraten kontrolliert werden, hat jedoch Schwierigkeiten, bei der Umsetzung wirksamer KI-Gesetze nennenswerte Fortschritte zu erzielen.
Kalifornien ist der erste Bundesstaat der USA, der Künstler gesetzlich vor KI-Technologie schützt. Tennessee, bekannt als Geburtsort der Country-Musik und Ausgangspunkt vieler Musikikonen, übernahm im März die Führung und verabschiedete Gesetze zum Schutz von Musikern und Künstlern vor KI-Missbrauch.
„Es ist mir egal, ob es Harris oder Trump war“, sagte Newsom am selben Tag während eines Gesprächs mit Salesforce-CEO Marc Benioff. „Es war einfach auf jeder Ebene falsch“, berichtete Politico.
Als Reaktion auf Newsoms Unterzeichnung der Gesetze behauptete Elon Musk, der Gouverneur habe Parodien praktisch für illegal erklärt und damit gegen die Verfassung der Vereinigten Staaten verstoßen.
Er teilte ein Video mit einer satirischen Darstellung von Harris, in dem sie ihre Qualifikationen verspottet und sarkastische Kommentare über Diversity-Einstellung und politische Kompetenz abgibt. Das Video imitiert Harris‘ Stimme, aber anstatt ihre tatsächlichen Worte aus der Originalanzeige zu verwenden, wird sie fälschlicherweise so dargestellt, als würde sie sagen, Präsident Biden sei senil und wisse „nicht das Geringste darüber, wie man das Land regiert“.
Das von der KI generierte Video enthielt Aussagen wie „Ich wurde ausgewählt, weil ich die ultimative Diversity-Einstellung bin. Wenn Sie irgendetwas kritisieren, was ich sage, sind Sie sowohl Sexist als auch Rassist“, was ein Seitenhieb auf Harris war.
Musk veröffentlichte außerdem einen viralen Beitrag mit demselben Video von Harris und erklärte: „Das Video, das den kalifornischen Gouverneur Gavin Newsom beleidigt hat, ist jetzt auf X im Trend.“
„Wie damals, als Streisand jemanden verklagte, weil dieser ihre sehr offensichtliche Adresse in Malibu preisgegeben hatte. Dadurch blieb die Sache wirklich unter Verschluss, lmao“, fügte Musk hinzu.
Trump hat außerdem mithilfe künstlicher Intelligenz erstellte Bilder geteilt, mit denen er angeblich seine Unterstützung unter den schwarzen Wählern zeigen will. Auf einem weiteren Bild ist eine Figur zu sehen, die Kamala Harris ähnelt und vor einer Gruppe von Kommunisten spricht, berichtete „The Fortune“.
„Die Wahrung der Integrität von Wahlen ist für die Demokratie von wesentlicher Bedeutung und es ist entscheidend, dass wir sicherstellen, dass KI nicht eingesetzt wird, um das Vertrauen der Öffentlichkeit durch Desinformation zu untergraben – insbesondere im heutigen angespannten politischen Klima“, sagte Newsom in einer Erklärung.
„Diese Maßnahmen werden dazu beitragen, den schädlichen Einsatz von Deepfakes in politische Anzeigen und andere Inhalte, einer von mehreren Bereichen, in denen der Staat proaktiv vorgeht, um eine transparente und vertrauenswürdige KI zu fördern“, fügte er hinzu.
Was sind Deepfakes
Deepfakes sind „hochrealistische und schwer zu erkennende digitale Manipulationen von Audio- oder Videodateien“. Der Begriff ist eine Mischung aus „Deep Learning“ und „Fakes“ und spiegelt die Kombination fortschrittlicher Techniken des maschinellen Lernens wider, die verwendet werden, um überzeugende, aber dennoch irreführende digitale Inhalte zu erstellen.
Was sind die 3 Rechnungen
Unter Gesetzesentwurf 2355 der Versammlungmuss in politischen Anzeigen offengelegt werden, ob bei der Erstellung oder Änderung von in der Anzeige enthaltenen Materialien generative KI-Technologie eingesetzt wurde. Diese Maßnahme soll sicherstellen, dass die Wähler über den Einsatz von KI in politischen Botschaften informiert sind.
Der Gesetzesentwurf 2655 der US-Versammlung verpflichtet große Online-Plattformen, irreführende Wahlinhalte innerhalb von 72 Stunden nach Erhalt eines Benutzerberichts zu entfernen oder zu kennzeichnen. Die Nichteinhaltung dieser Anforderung führt zu einer Haftung der Plattform.
„Von KI generierte Deepfakes stellen ein klares und gegenwärtiges Risiko für unsere Wahlen und unsere Demokratie dar. AB 2655 ist eine landesweit erste Lösung für diese wachsende Bedrohung, und ich bin Gouverneur Newsom dankbar, dass er es unterzeichnet hat. Fortschritte in der KI in den letzten Jahren machen es einfach, hyperrealistische, aber völlig gefälschte wahlbezogene Deepfakes zu erstellen, aber AB 2655 wird sicherstellen, dass Online-Plattformen ihre Auswirkungen minimieren. Das neue Gesetz ist ein Gewinn für die Wähler Kaliforniens und für unsere Demokratie“, so das Abgeordnete Marc Bermander den Gesetzentwurf vorgeschlagen hat, sagte in der Erklärung.
Schließlich zielt der Gesetzesentwurf 2839 der kalifornischen Parlamentsversammlung speziell auf Personen ab, die mithilfe von KI-Technologie irreführende Inhalte über Kandidaten und Wahlhelfer erstellen oder veröffentlichen. Der Gesetzesentwurf verbietet derartige Handlungen innerhalb von 120 Tagen vor und 60 Tagen nach einer Wahl. Bei Verstößen kann ein Richter die Entfernung der Inhalte anordnen und eine Geldstrafe verhängen.
Warum ist das Verbot wichtig
Diese Maßnahmen zielen darauf ab, die Transparenz und Rechenschaftspflicht im digitalen Bereich zu erhöhen, insbesondere in Wahlperioden.
Mit dem Titel Gesetz zur Verteidigung der Demokratie vor dem Deep Fake Deception ActDas kürzlich eingeführte Gesetz verpflichtet große Online-Plattformen dazu, ihre Benutzer daran zu hindern, „wesentlich irreführende“ wahlbezogene Inhalte zu teilen, während sich die Kalifornier darauf vorbereiten, ihr Stimmrecht auszuüben.
Der schnelle Fortschritt der KI hat verschiedene Befürchtungen geweckt. Unter anderem könnte sie demokratische Prozesse beeinträchtigen, betrügerische Aktivitäten verstärken und zu Arbeitsplatzverlusten führen.
Diese Bedenken haben die Gesetzgeber dazu veranlasst, aktiv zu werden und Maßnahmen zu ergreifen, um den negativen Auswirkungen der KI entgegenzuwirken.
Die Biden-Regierung unter Führung des demokratischen Präsidenten hat sich für die Regulierung künstlicher Intelligenz eingesetzt. Der gespaltene Kongress, in dem das Repräsentantenhaus von den Republikanern und der Senat von den Demokraten kontrolliert werden, hat jedoch Schwierigkeiten, bei der Umsetzung wirksamer KI-Gesetze nennenswerte Fortschritte zu erzielen.
Kalifornien ist der erste Bundesstaat der USA, der Künstler gesetzlich vor KI-Technologie schützt. Tennessee, bekannt als Geburtsort der Country-Musik und Ausgangspunkt vieler Musikikonen, übernahm im März die Führung und verabschiedete Gesetze zum Schutz von Musikern und Künstlern vor KI-Missbrauch.