Technologieunternehmen verpflichten sich, wahlbezogene Deepfakes zu bekämpfen, da die politischen Entscheidungsträger den Druck erhöhen.
Heute unterzeichneten Anbieter wie Microsoft, Meta, Google, Amazon, Adobe und IBM auf der Münchner Sicherheitskonferenz eine Vereinbarung, in der sie ihre Absicht zum Ausdruck brachten, einen gemeinsamen Rahmen für die Reaktion auf KI-generierte Deepfakes einzuführen, die darauf abzielen, Wähler in die Irre zu führen. Dreizehn weitere Unternehmen, darunter die KI-Startups OpenAI, Anthropic, Inflection AI, ElevenLabs und Stability AI sowie die Social-Media-Plattformen X (ehemals Twitter), TikTok und Snap, unterzeichneten das Abkommen zusammen mit dem Chiphersteller Arm und den Sicherheitsfirmen McAfee und TrendMicro.
Die Unterzeichner erklärten, dass sie Methoden einsetzen werden, um irreführende politische Deepfakes zu erkennen und zu kennzeichnen, wenn sie erstellt und auf ihren Plattformen verbreitet werden. Außerdem werden sie Best Practices untereinander austauschen und „schnelle und verhältnismäßige Reaktionen“ liefern, wenn sich Deepfakes zu verbreiten beginnen. Die Unternehmen fügten hinzu, dass sie bei der Reaktion auf Deepfakes besonderes Augenmerk auf den Kontext legen werden, mit dem Ziel: „[safeguard] pädagogische, dokumentarische, künstlerische, satirische und politische Ausdrucksformen“ und wahren gleichzeitig Transparenz gegenüber den Nutzern über ihre Richtlinien zu irreführenden Wahlinhalten.
Das Abkommen ist praktisch zahnlos und laufe, wie einige Kritiker vielleicht sagen, kaum mehr als einem Zeichen der Tugend gleich – seine Maßnahmen sind freiwillig. Doch die Aufregung zeigt, dass die Tech-Branche hinsichtlich regulatorischer Fadenkreuze im Zusammenhang mit Wahlen vorsichtig ist, in einem Jahr, in dem 49 % der Weltbevölkerung bei nationalen Wahlen an die Wahlurnen gehen werden.
„Es gibt keine Möglichkeit, dass der Technologiesektor allein Wahlen vor dieser neuen Art von Wahlmissbrauch schützen kann“, sagte Brad Smith, stellvertretender Vorsitzender und Präsident von Microsoft, in einem Pressemitteilung. „Wenn wir in die Zukunft blicken, scheint es denjenigen von uns, die bei Microsoft arbeiten, dass wir auch neue Formen der Multistakeholder-Aktion brauchen werden … Es ist völlig klar, dass der Schutz von Wahlen [will require] dass wir alle zusammenarbeiten.“
Kein Bundesgesetz in den USA verbietet Deepfakes, sei es im Zusammenhang mit Wahlen oder auf andere Weise. Aber zehn Bundesstaaten im ganzen Land haben Gesetze erlassen, die sie kriminalisieren, wobei Minnesota der erste Bundesstaat ist, der dies getan hat Ziel Deepfakes werden im politischen Wahlkampf eingesetzt.
Andernorts haben Bundesbehörden alle möglichen Durchsetzungsmaßnahmen ergriffen, um die Verbreitung von Deepfakes zu bekämpfen.
Diese Woche gab die FTC bekannt, dass sie versucht, eine bestehende Regelung zu ändern, die die Identitätsfälschung von Unternehmen oder Regierungsbehörden verbietet, um alle Verbraucher, einschließlich Politiker, abzudecken. Und die FCC hat versucht, KI-gesteuerte Robocalls illegal zu machen, indem sie eine Regel neu interpretiert hat, die Spam mit künstlichen und aufgezeichneten Sprachnachrichten verbietet.
In der Europäischen Union würde das KI-Gesetz des Blocks verlangen, dass alle KI-generierten Inhalte eindeutig als solche gekennzeichnet werden. Die EU nutzt ihr Gesetz über digitale Dienste auch, um die Technologiebranche zu zwingen, Deepfakes in verschiedenen Formen einzudämmen.
Unterdessen nehmen Deepfakes weiter zu. Nach Angaben von Clarity, einem Deepfake-Erkennungsunternehmen, ist die Zahl der erstellten Deepfakes im Jahresvergleich um 900 % gestiegen.
Letzten Monat versuchten KI-Robocalls, die die Stimme von US-Präsident Joe Biden imitierten, Menschen davon abzuhalten, an den Vorwahlen in New Hampshire teilzunehmen. Und im November, nur wenige Tage vor den Wahlen in der Slowakei, gaben KI-generierte Audioaufnahmen einen liberalen Kandidaten aus, der über Pläne zur Erhöhung der Bierpreise und zur Manipulation der Wahl diskutierte.
In einem aktuellen Umfrage Von YouGov gaben 85 % der Amerikaner an, dass sie sehr oder eher besorgt über die Verbreitung irreführender Video- und Audio-Deepfakes seien. Ein separates Umfrage Das Associated Press-NORC Center for Public Affairs Research hat herausgefunden, dass fast 60 % der Erwachsenen glauben, dass KI-Tools die Verbreitung falscher und irreführender Informationen während des US-Wahlzyklus 2024 verstärken werden.