Die FCC hat eine Geldstrafe von 6 Millionen US-Dollar vorgeschlagen für den Betrüger, der während einer Vorwahl in New Hampshire mithilfe einer Technologie zum Klonen von Stimmen in einer Reihe illegaler Robocalls sich als Präsident Biden ausgab. Es geht mehr um Robocalls als um KI, aber die Agentur positioniert dies eindeutig als Warnung an andere potenzielle High-Tech-Betrüger.
Wie Sie sich vielleicht erinnern, erhielten im Januar viele Wähler in New Hampshire einen Anruf, der angeblich eine Nachricht des Präsidenten war, in der er sie aufforderte, bei den bevorstehenden Vorwahlen nicht zu wählen. Dies war natürlich eine Fälschung – ein Stimmklon von Präsident Biden unter Verwendung einer Technologie, die in den letzten Jahren weithin verfügbar geworden ist.
Während es schon lange möglich ist, eine gefälschte Stimme zu erstellen, ist dies dank generativer KI-Plattformen trivial geworden: Dutzende von Diensten bieten geklonte Stimmen mit wenigen Einschränkungen oder Aufsicht an. Sie können Ihre eigene Biden-Stimme ziemlich einfach mit ein oder zwei Minuten seiner Reden erstellen, die natürlich leicht online zu finden sind.
Die FCC und mehrere Strafverfolgungsbehörden haben klargestellt, dass man den falschen Biden nicht dazu verwenden darf, Wählerstimmen durch bereits illegale Robocalls zu unterdrücken.
„Wir werden schnell und entschlossen handeln, um sicherzustellen, dass böswillige Akteure US-Telekommunikationsnetze nicht nutzen können, um den Missbrauch generativer KI-Technologie zu erleichtern, um Wahlen zu stören, Verbraucher zu betrügen oder sensible Daten zu kompromittieren“, sagte Loyaan Egal, Chef des Enforcement Bureau der FCC. in einer Pressemitteilung.
Der Haupttäter war der „Politikberater“ Steve Kramer, der jedoch auch die Hilfe der zwielichtigen Life Corporation (die bereits zuvor wegen illegaler Robocalls angeklagt worden war) und der Anrufdienste des zwielichtigen Telekommunikationsunternehmens Lingo (auch bekannt als Americatel, BullsEyeComm, Clear Choice Communications, Excel Telecommunications, Impact Telecom, Matrix Business Technologies, Startec Global Communications, Trinsic Communications und VarTec Telecom) in Anspruch nahm.
Kramer hat „offensichtlich“ mehrere Regeln verletzt – aber bisher gibt es noch kein Strafverfahren gegen ihn oder seine Mitarbeiter. Dies ist eine Einschränkung der Macht der FCC: Sie muss mit den örtlichen oder bundesstaatlichen Strafverfolgungsbehörden zusammenarbeiten, um ihren Feststellungen zur Haftung als Expertenbehörde Nachdruck zu verleihen.
Die Geldstrafe von 6 Millionen Dollar ist eher eine Obergrenze oder ein Ziel. Wie bei der FTC und anderen ist der tatsächlich gezahlte Betrag aus zahlreichen Gründen oft viel niedriger, aber dennoch ist es eine beträchtliche Summe. Der nächste Schritt besteht für Kramer darin, auf die Vorwürfe zu reagieren, obwohl gegen Lingo oder wie sie sich jetzt nennen, nachdem sie erneut erwischt wurden, gesonderte Maßnahmen ergriffen werden, die zu Geldstrafen oder Lizenzentzug führen können.
Die Verwendung von KI-generierten Stimmen in Robocalls wurde im Februar offiziell für illegal erklärt, nachdem der obige Fall die Frage aufgeworfen hatte, ob sie als „künstlich“ gelten – und die FCC entschied völlig vernünftig, dass dies der Fall sei.