Unbekannte Täter haben die Stimme von Präsident Joe Biden gefälscht, um die Vorwahlen in New Hampshire zu stören
Die US-amerikanische Federal Communications Commission (FCC) hat erklärt, dass sie KI-generierte betrügerische „Robocalls“ verbieten wird, nachdem Einwohner von New Hampshire Anrufe von einem computergenerierten Joe Biden erhalten haben, in dem sie aufgefordert werden, die Vorwahlen der Demokraten im Bundesstaat auszulassen. In einer am veröffentlichten Erklärung Am Mittwoch sagte Jessica Rosenworcel, Vorsitzende der FCC, dass sie ihre Behörde anweisen werde, mit KI-generierten Stimmen getätigte Anrufe als „künstlich“ anzuerkennen und sie damit denselben Regeln zu unterwerfen, die bereits für zuvor aufgezeichnete „Robocalls“ gelten. Im Rahmen des Telefonverbraucherschutzes der FCC Gemäß dem TCPA-Gesetz (TCPA) müssen Telemarketer die vorherige Zustimmung der Verbraucher einholen, bevor sie diese mit „künstlichen“ Nachrichten anrufen. Sollten KI-generierte Stimmen als „künstlich“ eingestuft werden, könnten die Generalstaatsanwälte die verantwortlichen Unternehmen oder Organisationen strafrechtlich verfolgen. „KI-generiertes Stimmenklonen und Bilder stiften bereits Verwirrung, indem sie Verbraucher dazu verleiten, Betrug und Betrügereien für legitim zu halten“, sagte Rosenworcel. „Egal welche Berühmtheit oder welchen Politiker Sie bevorzugen oder welche Beziehung Sie zu Ihren Verwandten haben, wenn sie um Hilfe rufen, es ist möglich, dass wir alle zum Ziel dieser gefälschten Anrufe werden.“ Obwohl Rosenworcel den Vorfall nicht erwähnte, kam ihre Erklärung weniger als zwei Wochen, nachdem Wähler in New Hampshire Anrufe von einer Stimme erhalten hatten, die sich als Präsident Joe Biden ausgab. In der Aufzeichnung fordert „Biden“ die Wähler auf, ihre Stimmen „aufzubewahren“ und während der Vorwahlen nicht zur Wahl zu gehen. „Es ist wichtig, dass Sie Ihre Stimme für die Wahl im November aufheben.“ Wir brauchen Ihre Hilfe bei der Wahl der Demokraten auf der Kandidatenliste“, hieß es in der von der KI gesprochenen Botschaft. „Die Abstimmung an diesem Dienstag ermöglicht es den Republikanern nur, Donald Trump erneut zu wählen.“ Es bleibt unklar, wer hinter den Aufrufen steckte, die der Generalstaatsanwalt von New Hampshire, John Formella, als „einen rechtswidrigen Versuch, die Präsidentschaftswahlen in New Hampshire zu stören und New Hampshire zu unterdrücken“ bezeichnete Hampshire-Wähler.“ Forscher sagten letzte Woche, dass die Schuldigen wahrscheinlich sind gefälscht Bidens Stimme mithilfe der Software eines Voice-Cloning-Startups namens ElevenLabs. Die Sicherheitsrichtlinie des Unternehmens besagt, dass Benutzer normalerweise keine Erlaubnis einholen müssen, um die Stimme eines Amtsträgers für „politische Reden, die zu öffentlichen Debatten beitragen“ zu klonen.
: