Das in Großbritannien ansässige Startup Yepic AI behauptet, „Deepfakes für immer“ zu verwenden und verspricht, „niemals jemanden ohne dessen Zustimmung nachzustellen“. Aber das Unternehmen hat genau das getan, was es angeblich niemals tun würde.
In einem unaufgeforderten E-Mail-Pitch an einen Tech-Reporter teilte ein Vertreter von Yepic AI zwei „deepfakierte“ Videos des Reporters, der der Reproduktion seines Abbilds nicht zugestimmt hatte. Yepic AI sagte in der Pitch-E-Mail, dass es „ein öffentlich zugängliches Foto“ des Reporters verwendet habe, um zwei gefälschte Videos zu erstellen, in denen sie in verschiedenen Sprachen sprechen.
Der Reporter forderte Yepic AI auf, die ohne Erlaubnis erstellten Deepfake-Videos zu löschen.
Deepfakes sind von generativen KI-Systemen erstellte Fotos, Videos oder Audiodaten, die so gestaltet sind, dass sie wie eine Person aussehen oder klingen. Die Verbreitung generativer KI-Systeme ist zwar nicht neu, ermöglicht es jedoch fast jedem, relativ einfach überzeugende Deepfake-Inhalte von anderen zu erstellen, auch ohne deren Wissen oder Zustimmung.
Auf einer Webseite mit dem Titel „Ethik“ sagte Yepic AI: „Deepfakes und satirische Nachahmungen für politische und andere Zwecke.“ [sic] sind verboten.“ Das Unternehmen sagte außerdem in einem Blogbeitrag vom August: „Wir weigern uns, benutzerdefinierte Avatare von Personen ohne deren ausdrückliche Genehmigung zu erstellen.“
Es ist nicht bekannt, ob das Unternehmen ohne Erlaubnis Deepfakes von anderen Personen erstellt hat, und das Unternehmen wollte keine Angaben dazu machen.
Als er um einen Kommentar gebeten wurde, sagte Aaron Jones, CEO von Yepic AI, gegenüber Tech, dass das Unternehmen seine Ethikrichtlinie aktualisiert, um „Ausnahmen für KI-generierte Bilder zu ermöglichen, die für künstlerische und ausdrucksstarke Zwecke erstellt werden“.
Zur Erklärung des Vorfalls sagte Jones: „Weder ich noch das Yepic-Team waren direkt an der Erstellung der betreffenden Videos beteiligt. Unser PR-Team hat bestätigt, dass das Video speziell für den Journalisten erstellt wurde, um auf die unglaubliche Technologie aufmerksam zu machen, die Yepic geschaffen hat.“
Jones sagte, die Videos und Bilder, die für die Erstellung des Bildes des Reporters verwendet wurden, seien gelöscht worden.
Wie vorhersehbar, haben Deepfakes ahnungslose Opfer dazu verleitet, auf Betrügereien hereinzufallen und unwissentlich ihre Krypto- oder persönlichen Daten preiszugeben, indem sie einige Moderationssysteme umgangen haben. In einem Fall Betrüger nutzte KI, um die Stimme zu fälschen eines Unternehmenschefs, um Mitarbeiter zu einer betrügerischen Transaktion im Wert von Hunderttausenden Euro zu verleiten. Bevor Deepfakes bei Betrügern populär wurden, ist es wichtig, dies zu beachten Menschen nutzten Deepfakes, um nicht einvernehmliche Porno- oder Sexbilder zu erstellen, die Frauen zu Opfern machtenDas bedeutet, dass sie realistisch aussehende Pornovideos erstellt haben, in denen Frauen abgebildet waren, die nicht zugestimmt hatten, Teil des Videos zu sein.