In einer drastischen Demonstration, wie künstliche Intelligenz als Waffe eingesetzt werden kann, hat der Islamische Staat (ISIS) eine KI-gesteuerte Medieninitiative namens „News Harvest“. Dieses Programm, das verbreitet extremistische Propaganda schnell und kostengünstig, stellt eine bedeutende Weiterentwicklung der Medienaktivitäten der Gruppe dar.
Das große Bild
Einem Bericht der Washington Post zufolge begann vier Tage nach dem Angriff des Islamischen Staats auf einen russischen Konzertsaal im März auf einer mit der Gruppe verbundenen privaten Plattform ein Video mit einem von künstlicher Intelligenz generierten Nachrichtensprecher zu kursieren.In der 92 Sekunden langen Sendung wurde der Angriff eher als Teil eines „wütenden Krieges“ denn als Teil eines Terrorismus dargestellt.
Laut der SITE Intelligence Group, die extremistische Aktivitäten im Internet beobachtet, wurde diese 92-sekündige Sendung erstellt von ISIS-Unterstützer mithilfe von KI.
Die Sendungen beginnen mit einem Logo und einem Titelvorspann, in dem KI-generierte Nachrichtensprecher entweder in Kampfmontur oder in Abendgarderobe zu sehen sind.
Diese Moderatoren liefern Berichte zusammen mit laufenden Nachrichtentickern und B-Roll-Filmmaterial über die Aktivitäten des IS. Das Programm wurde verwendet, um über Angriffe und Operationen in Regionen wie Niger, Kamerun, Irak, Syrien und Nigeria zu berichten, heißt es in dem Bericht der Washington Post.
Warum es wichtig ist
Der Einsatz von KI durch Terrorgruppen wie den Islamischen Staat bedeutet eine deutliche Steigerung der Komplexität und Reichweite ihrer Propaganda. Bemühungen.
Der Einsatz von KI-Tools ermöglicht es dem Islamischen Staat, mit einem sehr geringen Budget hochwertige Propaganda zu produzieren, was es für Technologieunternehmen schwieriger macht, diese Inhalte zu moderieren.
Unter den Anhängern des Islamischen Staats kam es zu internen Debatten über die religiöse Zulässigkeit von KI-generierten menschlichen Bildern. Infolgedessen wurde in den letzten Sendungen das Gesicht des KI-generierten Moderators unkenntlich gemacht, heißt es in dem Bericht der Washington Post.
Was sie sagen:
„Für ISIS bedeutet KI einen Wendepunkt“, sagte Rita Katz, Mitbegründerin der SITE Intelligence Group. „Es wird für sie eine schnelle Möglichkeit sein, ihre … blutigen Angriffe zu verbreiten und zu verbreiten. [to] erreichen Sie nahezu jeden Winkel der Welt.“
Steven Stalinsky vom Middle East Media Research Institute merkte an: „KI könnte das Wachstum des einheimischen Extremismus fördern, indem sie Menschen überall die Möglichkeit bietet, Propaganda aufzunehmen, KI-generierte Medien zu erstellen und sich in extremistischen Gruppen zu engagieren.“
Hineinzoomen
Die Videos von News Harvest imitieren die Sendungen von Al Jazeera und zeigen KI-generierte Moderatoren in Kampfmontur oder formeller Tunika sowie Newsticker und Filmmaterial von Operationen des Islamischen Staats.
Die Videos verbreiten offizielle Medieninhalte des Islamischen Staates, wie etwa Al-Naba und Amaq.
Was kommt als nächstes
Auch andere militante islamistische Organisationen, darunter Al-Kaida, nutzen KI für Propagandazwecke.
Die Terrorismusbekämpfung muss sich nun an die neue Herausforderung durch KI-generierte extremistische Inhalte anpassen, die sich rasch verbreiten und herkömmlichen Techniken zur Inhaltsmoderation entgehen können.
Das große Bild
Einem Bericht der Washington Post zufolge begann vier Tage nach dem Angriff des Islamischen Staats auf einen russischen Konzertsaal im März auf einer mit der Gruppe verbundenen privaten Plattform ein Video mit einem von künstlicher Intelligenz generierten Nachrichtensprecher zu kursieren.In der 92 Sekunden langen Sendung wurde der Angriff eher als Teil eines „wütenden Krieges“ denn als Teil eines Terrorismus dargestellt.
Laut der SITE Intelligence Group, die extremistische Aktivitäten im Internet beobachtet, wurde diese 92-sekündige Sendung erstellt von ISIS-Unterstützer mithilfe von KI.
Die Sendungen beginnen mit einem Logo und einem Titelvorspann, in dem KI-generierte Nachrichtensprecher entweder in Kampfmontur oder in Abendgarderobe zu sehen sind.
Diese Moderatoren liefern Berichte zusammen mit laufenden Nachrichtentickern und B-Roll-Filmmaterial über die Aktivitäten des IS. Das Programm wurde verwendet, um über Angriffe und Operationen in Regionen wie Niger, Kamerun, Irak, Syrien und Nigeria zu berichten, heißt es in dem Bericht der Washington Post.
Warum es wichtig ist
Der Einsatz von KI durch Terrorgruppen wie den Islamischen Staat bedeutet eine deutliche Steigerung der Komplexität und Reichweite ihrer Propaganda. Bemühungen.
Der Einsatz von KI-Tools ermöglicht es dem Islamischen Staat, mit einem sehr geringen Budget hochwertige Propaganda zu produzieren, was es für Technologieunternehmen schwieriger macht, diese Inhalte zu moderieren.
Unter den Anhängern des Islamischen Staats kam es zu internen Debatten über die religiöse Zulässigkeit von KI-generierten menschlichen Bildern. Infolgedessen wurde in den letzten Sendungen das Gesicht des KI-generierten Moderators unkenntlich gemacht, heißt es in dem Bericht der Washington Post.
Was sie sagen:
„Für ISIS bedeutet KI einen Wendepunkt“, sagte Rita Katz, Mitbegründerin der SITE Intelligence Group. „Es wird für sie eine schnelle Möglichkeit sein, ihre … blutigen Angriffe zu verbreiten und zu verbreiten. [to] erreichen Sie nahezu jeden Winkel der Welt.“
Steven Stalinsky vom Middle East Media Research Institute merkte an: „KI könnte das Wachstum des einheimischen Extremismus fördern, indem sie Menschen überall die Möglichkeit bietet, Propaganda aufzunehmen, KI-generierte Medien zu erstellen und sich in extremistischen Gruppen zu engagieren.“
Hineinzoomen
Die Videos von News Harvest imitieren die Sendungen von Al Jazeera und zeigen KI-generierte Moderatoren in Kampfmontur oder formeller Tunika sowie Newsticker und Filmmaterial von Operationen des Islamischen Staats.
Die Videos verbreiten offizielle Medieninhalte des Islamischen Staates, wie etwa Al-Naba und Amaq.
Was kommt als nächstes
Auch andere militante islamistische Organisationen, darunter Al-Kaida, nutzen KI für Propagandazwecke.
Die Terrorismusbekämpfung muss sich nun an die neue Herausforderung durch KI-generierte extremistische Inhalte anpassen, die sich rasch verbreiten und herkömmlichen Techniken zur Inhaltsmoderation entgehen können.