Die Europäische Union hat ihre Warnung vor illegalen Inhalten und Desinformationen zum Israel-Hamas-Krieg, die auf Social-Media-Plattformen verbreitet werden, auf Meta, die Muttergesellschaft von Facebook und Instagram, ausgeweitet.
Gestern veröffentlichte der Binnenmarktkommissar der Union, Thierry Breton, einen dringenden Brief an Elon Musk, Inhaber von Israel durch im Gazastreifen stationierte Hamas-Terroristen.
Bretons Brief an Meta-Gründer Mark Zuckerberg, den er auch verfasst veröffentlicht durch einen Beitrag auf XDer Ton ist etwas weniger eindringlich als das gestrige Schreiben an Musk. Aber der Social-Media-Riese hat auch 24 Stunden Zeit, um auf die Bedenken der EU hinsichtlich ähnlicher Inhaltsrisiken zu reagieren.
„Nach den Terroranschlägen der Hamas gegen Israel erleben wir in der EU eine Welle der Verbreitung illegaler Inhalte und Desinformationen über bestimmte Plattformen“, schreibt der EU-Kommissar. „Ich möchte Sie bitten, sehr wachsam zu sein, um die strikte Einhaltung des DSA sicherzustellen [Digital Services Act] Vorschriften zu den Nutzungsbedingungen, zum Erfordernis rechtzeitiger, sorgfältiger und objektiver Maßnahmen nach Hinweisen auf illegale Inhalte in der EU und zur Notwendigkeit verhältnismäßiger und wirksamer Schadensbegrenzungsmaßnahmen.
„Ich lade Sie dringend ein, für die Wirksamkeit Ihrer Systeme zu sorgen. Selbstverständlich erwarte ich auch, dass Sie mit den zuständigen Strafverfolgungsbehörden und Europol in Kontakt stehen und sicherstellen, dass Sie auf etwaige Anfragen zeitnah reagieren.“
Meta wurde kontaktiert, um eine Antwort auf Bretons Warnung zu erhalten und nach den Schritten zu fragen, die das Unternehmen unternimmt, um sicherzustellen, dass es effektiv auf inhaltliche Risiken im Zusammenhang mit gewalttätigen Ereignissen in Israel und Gaza reagieren kann. Zum Zeitpunkt des Verfassens dieses Artikels hatte Meta jedoch noch nicht geantwortet.
Wir haben uns auch an die Kommission gewandt und gefragt, ob sie entsprechende Bedenken hinsichtlich anderer Social-Media-Plattformen hat.
Seit den blutigen Anschlägen vom Samstag gibt es Berichte über das Hochladen anschaulicher Videos auf Meta-Plattformen. In einem Bericht im israelischen Fernsehen, der im Umlauf war Ein Clip, der in den sozialen Medien geteilt wurdeEine Frau erzählte, wie sie und ihre Familie erfahren hatten, dass ihre Großmutter von Hamas-Terroristen ermordet worden war, nachdem sie mit ihrem Telefon ein Video ihrer Leiche aufgenommen und auf ihrem Facebook-Konto hochgeladen hatten.
Achten Sie auf Wahldesinformation
Der Brief des Blocks an Meta konzentriert sich nicht nur auf die Risiken, die sich aus dem Krieg zwischen Israel und der Hamas ergeben. Es zeigt auch, dass die Kommission besorgt ist, dass Meta nicht genug unternimmt, um gegen Desinformation über Europawahlen vorzugehen.
„Als wir uns im Juni in San Francisco trafen, habe ich Sie persönlich darauf aufmerksam gemacht, dass Meta diesem Thema besondere Aufmerksamkeit widmen muss, um dem DSA zu entsprechen, und das Thema wurde in dem von uns durchgeführten Stresstest ausführlich behandelt Teams im Juli“, schreibt Breton. „Während wir im Vorfeld der jüngsten Wahlen in der Slowakei Schritte von Meta zur Verstärkung der Schadensbegrenzungsmaßnahmen zur Kenntnis genommen haben – etwa eine verstärkte Zusammenarbeit mit unabhängigen Behörden, Verbesserungen der Reaktionszeiten und eine verstärkte Faktenprüfung –, waren wir es auch.“ haben auf Berichte aufmerksam gemacht, dass eine beträchtliche Anzahl von Deep Fakes und manipulierten Inhalten auf Ihren Plattformen kursierten und einige noch immer online auftauchen.“
„Ich erinnere Sie daran, dass das DSA verlangt, dass das Risiko der Verstärkung gefälschter und manipulierter Bilder und Fakten, die mit der Absicht erzeugt wurden, Wahlen zu beeinflussen, im Rahmen von Schadensbegrenzungsmaßnahmen äußerst ernst genommen wird“, fügt er hinzu und fordert eine Antwort von Zuckerberg – „ohne.“ Verzögerung“ – und eindämmend „Einzelheiten zu den Maßnahmen, die Sie ergriffen haben, um solche Deepfakes einzudämmen, auch im Hinblick auf die bevorstehenden Wahlen in Polen, den Niederlanden, Litauen, Belgien, Kroatien, Rumänien und Österreich sowie die Wahlen zum Europäischen Parlament.“
Das DSA, eine europaweite, auf die Moderation von Inhalten ausgerichtete Verordnung, wendet die tiefgreifendsten Verpflichtungen und Governance-Kontrollen auf größere Plattformen (sogenannte Very Large Online Platforms oder VLOPs) an – 19 davon wurden bereits im April von der Kommission benannt, darunter auch Meta Facebook und Instagram – im Besitz von Facebook und Instagram – mit zusätzlichen Anforderungen zur Bewertung und Minderung systemischer Risiken, die mit der Verwendung von Algorithmen und KI verbunden sind. Dies bedeutet, dass von VLOPs erwartet wird, dass sie proaktiv systemische Risiken wie politische Desinformation erkennen und abmildern und schnell auf Meldungen über illegale Inhalte wie Terrorismus reagieren.
Zu den Strafen für einen bestätigten Verstoß gegen das Regime gehören Geldstrafen von bis zu 6 % des weltweiten Jahresumsatzes – was im Fall von Meta eine Geldstrafe von mehreren Milliarden bedeuten könnte.
Politische Deepfakes haben sich zu einem besonderen Problemfeld für die Kommission entwickelt, da die Entwicklung der generativen KI die Produktion dieser Art von Desinformation kostengünstiger und einfacher gemacht hat. Letzten Monat kündigte der Block an, dass er sich mit dem KI-Riesen OpenAI treffen werde, um das Problem zu besprechen. Aber auch die Rolle, die Social-Media-Plattformen bei der schnellen und weiten Verbreitung dieser Art von Fälschungen spielen können, ist klar auf dem Radar der EU.