SEOUL: In einem überfüllten Wahlkampfbüro in Seoul verwenden junge, trendige Mitarbeiter Deepfake-Technologie, um das nahezu Unmögliche zu erreichen: einen etablierten südkoreanischen Präsidentschaftskandidaten mittleren Alters cool zu machen.
Ausgestattet mit stundenlangem, speziell aufgenommenem Filmmaterial des Kandidaten der oppositionellen People Power Party, Yoon Suk-yeol, hat das Team einen digitalen Avatar des Spitzenkandidaten erstellt – und „AI Yoon“ vor den Wahlen am 9. März auf den Wahlkampf losgelassen.
Von einem Deepfake-Video, in dem Barack Obama Donald Trump beleidigt, bis hin zum gescheiterten New Yorker Bürgermeisterkandidaten Andrew Yang, der im Metaverse kandidiert, wurde KI-Technologie bereits bei Wahlen eingesetzt.
Aber die Macher von AI Yoon glauben, dass er der weltweit erste offizielle Deepfake-Kandidat ist – ein Konzept, das in Südkorea, das die schnellsten durchschnittlichen Internetgeschwindigkeiten der Welt hat, an Zugkraft gewinnt.
Mit ordentlich gekämmten schwarzen Haaren und einem eleganten Anzug sieht der Avatar fast identisch mit dem echten südkoreanischen Kandidaten aus, verwendet jedoch eine salzige Sprache und meme-ready Witze, um jüngere Wähler anzusprechen, die ihre Nachrichten online erhalten.
Es war ein Riesenerfolg. AI Yoon hat seit seinem Debüt am 1. Januar Millionen von Zuschauern angezogen.
Zehntausende von Menschen haben Fragen gestellt, aber es ist nicht der übliche politikbezogene Tarif.
„Präsident Moon Jae-in und (rivalisierender Präsidentschaftskandidat) Lee Jae-myung ertrinken. Wen retten Sie?“ fragt ein Benutzer AI Yoon.
„Ich wünsche beiden viel Glück“, schnappt der Avatar zurück.
Auf den ersten Blick könnte AI Yoon als echter Kandidat durchgehen – ein treffendes Beispiel dafür, wie weit sich künstlich erzeugte Videos, sogenannte Deepfakes, in den letzten Jahren entwickelt haben.
Der echte Yoon hat mehr als 3.000 Sätze – 20 Stunden Audio und Video – aufgezeichnet, um einem lokalen Deepfake-Technologieunternehmen genügend Daten zur Erstellung des Avatars zu liefern.
„Wörter, die oft von Yoon gesprochen werden, spiegeln sich besser in AI Yoon wider“, sagte Baik Kyeong-hoon, der Direktor des AI Yoon-Teams.
Was der Avatar tatsächlich sagt, schreibt sein Wahlkampfteam, nicht der Kandidat selbst.
„Wir versuchen, humorvolle und satirische Antworten zu finden“, sagte Baik gegenüber AFP.
Der Ansatz hat sich ausgezahlt. Die Äußerungen von AI Yoon haben in den südkoreanischen Medien Schlagzeilen gemacht, und sieben Millionen Menschen haben die Website „Wiki Yoon“ besucht, um den Avatar zu befragen.
„Wenn wir nur politisch korrekte Aussagen gemacht hätten, hätten wir diese Reaktion nicht“, sagte Baik.
„Das politische Establishment war angesichts einer sich schnell verändernden Gesellschaft zu langsam“, fügte er hinzu.
Bei der Beantwortung von Fragen, die von Benutzern gestellt werden, bezeichnet AI Yoon Präsident Moon und seinen Rivalen Lee spöttisch als „Moon Ding Dong“ und „Lee Ding Dong“.
„Ich möchte Moon Ding Dong diese Frage stellen: Wer ist unser wahrer Feind?“ AI Yoon sagt, in einem kaum verschleierten Seitenhieb auf das, was seine Kritiker sagen, ist die versöhnlichere Herangehensweise des Präsidenten an Pjöngjang.
Nord- und Südkorea befinden sich technisch gesehen weiterhin im Krieg, und Moon hat sich seit seinem Amtsantritt viermal mit Pjöngjangs Führer Kim Jong Un getroffen – ein Ansatz, den Kandidat Yoon als zu weich ablehnt.
Der Avatar-Politiker hat auch mit Humor versucht, die Aufmerksamkeit von Yoons früheren Skandalen abzulenken, zum Beispiel behauptet er, er habe unangemessene Obstgeschenke von einer Baufirma erhalten, als er Oberstaatsanwalt war.
„Ich bin Kakis und Melonen nicht verpflichtet. Ich bin nur den Menschen verpflichtet“, sagte AI Yoon – obwohl seine Kampagne später gezwungen war zuzugeben, dass er einige Geschenke angenommen hatte.
Die Art des Skripts, das von der Kampagne für AI Yoon verwendet wird, stützt sich auf die Sprache, die in der Welt der Online-Spiele verwendet wird, sagte Kim Myuhng-joo, Professorin für Informationssicherheit an der Seoul Women’s University, gegenüber lokalen Medien.
„AI Yoon liest die Skripte vor, die von seinen Schöpfern zusammengestellt wurden, die kein Blatt vor den Mund nehmen“, sagte Kim.
Ko Sam-seog, ein Mitarbeiter von Yoons Hauptgegner Lee, wirft dem Cyber-Kandidaten vor, „das politische Anstand herabgestuft“ zu haben.
Aber der Snark funktioniert: Während die Umfragen für die Wahlen am 9. März Kopf an Kopf bleiben, hat Yoon den Rivalen Lee Jae-myung mit Wählern in den Zwanzigern überholt.
Der technisch versierte Baik und seine beiden anderen Teammitglieder – alle zwischen 20 und 30 – gehören zu den jüngsten Mitarbeitern in der weitläufigen Yoon-Kampagne.
Sie kommen mit den Antworten von AI Yoon in schnellen Brainstorming-Sitzungen, die im Gegensatz zu der sorgfältig ausgefeilten Rhetorik, die normalerweise in politischen Debatten zu finden ist, nur 30 Minuten dauern können.
Südkoreas Wahlbeobachter erlaubt KI-Kandidaten den Wahlkampf unter der Bedingung, dass sie eindeutig als Deepfake-Technologie identifiziert werden und keine Fehlinformationen verbreiten.
Die Technologie wurde häufiger als schädlich gekennzeichnet – das Deepfake-Video von Obama aus dem Jahr 2018 wurde vom Oscar-prämierten Filmemacher Jordan Peele produziert, um die Zuschauer davor zu warnen, Material zu vertrauen, auf das sie online stoßen.
Aber Baik glaubt, dass KI die Zukunft von Wahlkämpfen ist.
„Es ist so einfach, riesige Mengen an Inhalten mit der Deepfake-Technologie zu erstellen“, sagte er gegenüber AFP.
„Es ist unvermeidlich, dass dies immer mehr genutzt wird.“
Ausgestattet mit stundenlangem, speziell aufgenommenem Filmmaterial des Kandidaten der oppositionellen People Power Party, Yoon Suk-yeol, hat das Team einen digitalen Avatar des Spitzenkandidaten erstellt – und „AI Yoon“ vor den Wahlen am 9. März auf den Wahlkampf losgelassen.
Von einem Deepfake-Video, in dem Barack Obama Donald Trump beleidigt, bis hin zum gescheiterten New Yorker Bürgermeisterkandidaten Andrew Yang, der im Metaverse kandidiert, wurde KI-Technologie bereits bei Wahlen eingesetzt.
Aber die Macher von AI Yoon glauben, dass er der weltweit erste offizielle Deepfake-Kandidat ist – ein Konzept, das in Südkorea, das die schnellsten durchschnittlichen Internetgeschwindigkeiten der Welt hat, an Zugkraft gewinnt.
Mit ordentlich gekämmten schwarzen Haaren und einem eleganten Anzug sieht der Avatar fast identisch mit dem echten südkoreanischen Kandidaten aus, verwendet jedoch eine salzige Sprache und meme-ready Witze, um jüngere Wähler anzusprechen, die ihre Nachrichten online erhalten.
Es war ein Riesenerfolg. AI Yoon hat seit seinem Debüt am 1. Januar Millionen von Zuschauern angezogen.
Zehntausende von Menschen haben Fragen gestellt, aber es ist nicht der übliche politikbezogene Tarif.
„Präsident Moon Jae-in und (rivalisierender Präsidentschaftskandidat) Lee Jae-myung ertrinken. Wen retten Sie?“ fragt ein Benutzer AI Yoon.
„Ich wünsche beiden viel Glück“, schnappt der Avatar zurück.
Auf den ersten Blick könnte AI Yoon als echter Kandidat durchgehen – ein treffendes Beispiel dafür, wie weit sich künstlich erzeugte Videos, sogenannte Deepfakes, in den letzten Jahren entwickelt haben.
Der echte Yoon hat mehr als 3.000 Sätze – 20 Stunden Audio und Video – aufgezeichnet, um einem lokalen Deepfake-Technologieunternehmen genügend Daten zur Erstellung des Avatars zu liefern.
„Wörter, die oft von Yoon gesprochen werden, spiegeln sich besser in AI Yoon wider“, sagte Baik Kyeong-hoon, der Direktor des AI Yoon-Teams.
Was der Avatar tatsächlich sagt, schreibt sein Wahlkampfteam, nicht der Kandidat selbst.
„Wir versuchen, humorvolle und satirische Antworten zu finden“, sagte Baik gegenüber AFP.
Der Ansatz hat sich ausgezahlt. Die Äußerungen von AI Yoon haben in den südkoreanischen Medien Schlagzeilen gemacht, und sieben Millionen Menschen haben die Website „Wiki Yoon“ besucht, um den Avatar zu befragen.
„Wenn wir nur politisch korrekte Aussagen gemacht hätten, hätten wir diese Reaktion nicht“, sagte Baik.
„Das politische Establishment war angesichts einer sich schnell verändernden Gesellschaft zu langsam“, fügte er hinzu.
Bei der Beantwortung von Fragen, die von Benutzern gestellt werden, bezeichnet AI Yoon Präsident Moon und seinen Rivalen Lee spöttisch als „Moon Ding Dong“ und „Lee Ding Dong“.
„Ich möchte Moon Ding Dong diese Frage stellen: Wer ist unser wahrer Feind?“ AI Yoon sagt, in einem kaum verschleierten Seitenhieb auf das, was seine Kritiker sagen, ist die versöhnlichere Herangehensweise des Präsidenten an Pjöngjang.
Nord- und Südkorea befinden sich technisch gesehen weiterhin im Krieg, und Moon hat sich seit seinem Amtsantritt viermal mit Pjöngjangs Führer Kim Jong Un getroffen – ein Ansatz, den Kandidat Yoon als zu weich ablehnt.
Der Avatar-Politiker hat auch mit Humor versucht, die Aufmerksamkeit von Yoons früheren Skandalen abzulenken, zum Beispiel behauptet er, er habe unangemessene Obstgeschenke von einer Baufirma erhalten, als er Oberstaatsanwalt war.
„Ich bin Kakis und Melonen nicht verpflichtet. Ich bin nur den Menschen verpflichtet“, sagte AI Yoon – obwohl seine Kampagne später gezwungen war zuzugeben, dass er einige Geschenke angenommen hatte.
Die Art des Skripts, das von der Kampagne für AI Yoon verwendet wird, stützt sich auf die Sprache, die in der Welt der Online-Spiele verwendet wird, sagte Kim Myuhng-joo, Professorin für Informationssicherheit an der Seoul Women’s University, gegenüber lokalen Medien.
„AI Yoon liest die Skripte vor, die von seinen Schöpfern zusammengestellt wurden, die kein Blatt vor den Mund nehmen“, sagte Kim.
Ko Sam-seog, ein Mitarbeiter von Yoons Hauptgegner Lee, wirft dem Cyber-Kandidaten vor, „das politische Anstand herabgestuft“ zu haben.
Aber der Snark funktioniert: Während die Umfragen für die Wahlen am 9. März Kopf an Kopf bleiben, hat Yoon den Rivalen Lee Jae-myung mit Wählern in den Zwanzigern überholt.
Der technisch versierte Baik und seine beiden anderen Teammitglieder – alle zwischen 20 und 30 – gehören zu den jüngsten Mitarbeitern in der weitläufigen Yoon-Kampagne.
Sie kommen mit den Antworten von AI Yoon in schnellen Brainstorming-Sitzungen, die im Gegensatz zu der sorgfältig ausgefeilten Rhetorik, die normalerweise in politischen Debatten zu finden ist, nur 30 Minuten dauern können.
Südkoreas Wahlbeobachter erlaubt KI-Kandidaten den Wahlkampf unter der Bedingung, dass sie eindeutig als Deepfake-Technologie identifiziert werden und keine Fehlinformationen verbreiten.
Die Technologie wurde häufiger als schädlich gekennzeichnet – das Deepfake-Video von Obama aus dem Jahr 2018 wurde vom Oscar-prämierten Filmemacher Jordan Peele produziert, um die Zuschauer davor zu warnen, Material zu vertrauen, auf das sie online stoßen.
Aber Baik glaubt, dass KI die Zukunft von Wahlkämpfen ist.
„Es ist so einfach, riesige Mengen an Inhalten mit der Deepfake-Technologie zu erstellen“, sagte er gegenüber AFP.
„Es ist unvermeidlich, dass dies immer mehr genutzt wird.“