Zehn Menschen wurden an diesem Wochenende bei einem rassistischen Angriff auf einen Supermarkt in Buffalo, New York, ermordet. Der achtzehnjährige Schütze der weißen Supremacisten übertrug seinen Angriff live auf Twitch, der Streaming-Plattform für Videospiele von Amazon. Obwohl Twitch das Video zwei Minuten nach Beginn der Gewalt entfernte, war es immer noch zu spät – jetzt kursieren grausame Aufnahmen des Terroranschlags offen auf Plattformen wie Facebook und Twitter, selbst nachdem die Unternehmen geschworen haben, das Video zu entfernen.
Auf Facebook wurden einige Nutzer, die das Video gemeldet hatten, darüber informiert der Inhalt hat nicht gegen seine Regeln verstoßen. Das Unternehmen teilte Tech mit, dass dies ein Fehler sei, und fügte hinzu, dass Teams rund um die Uhr daran arbeiten, Videos der Dreharbeiten sowie Links zu den auf anderen Websites gehosteten Videos zu entfernen. Facebook sagte, dass es auch Kopien des rassistischen Estrichs des Schützen und Inhalte entfernt, die ihn loben.
Aber als wir auf Facebook nach einem so einfachen Begriff wie „Aufnahmen von Büffelschießen“ suchten, war eines der ersten Ergebnisse eine 54-Sekunden-Bildschirmaufzeichnung der Aufnahmen des Terroristen. Tech stieß auf das Video eine Stunde nach dem Hochladen und meldete es sofort. Das Video wurde erst drei Stunden nach dem Posten entfernt, nachdem es bereits über tausend Mal angesehen worden war.
Theoretisch sollte das nicht passieren. Ein Vertreter von Facebook sagte gegenüber Tech, dass mehrere Versionen des Videos sowie die rassistischen Schriften des Schützen zu einer Datenbank mit verletzenden Inhalten hinzugefügt wurden, was der Plattform hilft, solche Inhalte zu identifizieren, zu entfernen und zu blockieren. Wir haben Facebook zu diesem speziellen Vorfall befragt, aber sie haben keine weiteren Details angegeben.
„Wir werden weiter lernen, unsere Prozesse verfeinern, um sicherzustellen, dass wir Inhalte, die gegen Inhalte verstoßen, in Zukunft schneller erkennen und entfernen können“, antwortete Guy Rosen, VP für Integrität bei Facebook, auf die Frage, warum das Unternehmen damit zu kämpfen hatte Entfernen Sie Kopien des Videos in einem unabhängigen Anruf am Dienstag.
Auch Reposts des Shooter-Streams waren auf Twitter leicht zu finden. Als wir „Buffalo Video“ in die Suchleiste eingaben, schlug Twitter tatsächlich Suchanfragen wie „Buffalo Video Full Video Graphic“, „Buffalo Video Leaked“ und „Buffalo Video Graphic“ vor.
Bildnachweis: Twitter, Screenshot von Tech
Wir sind auf mehrere Videos des Angriffs gestoßen, die seit über zwei Tagen auf Twitter kursieren. Ein solches Video hatte über 261.000 Aufrufe, als wir es am Dienstagnachmittag überprüften.
Im April Twitter eine Richtlinie erlassen das einzelne Täter von gewalttätigen Angriffen von Twitter verbannt. Im Rahmen dieser Richtlinie behält sich die Plattform auch das Recht vor, Multimedia im Zusammenhang mit Angriffen sowie Sprache aus terroristischen „Manifesten“ zu entfernen.
„Wir entfernen Videos und Medien im Zusammenhang mit dem Vorfall. Darüber hinaus können wir Tweets entfernen, die das Manifest oder andere von Tätern produzierte Inhalte verbreiten“, sagte ein Sprecher von Twitter gegenüber Tech. Das Unternehmen nannte diese „hasserfüllten und diskriminierenden“ Inhalte „schädlich für die Gesellschaft“.
Twitter behauptet auch, dass einige Benutzer versuchen, Takedowns zu umgehen, indem sie geänderte oder manipulierte Inhalte im Zusammenhang mit dem Angriff hochladen.
Im Gegensatz dazu war Videomaterial der Tragödie vom Wochenende auf YouTube relativ schwer zu finden. Grundlegende Suchbegriffe für das Buffalo-Schießvideo brachten meistens Berichterstattung von Mainstream-Nachrichtenagenturen. Mit den gleichen Suchbegriffen, die wir auf Twitter und Facebook verwendet haben, konnten wir eine Handvoll YouTube-Videos mit Miniaturansichten der Dreharbeiten identifizieren, die nach dem Durchklicken tatsächlich nicht zusammenhängende Inhalte waren. Auf TikTok hat Tech einige Posts identifiziert, die Benutzer auf Websites geleitet haben, auf denen sie das Video ansehen konnten, aber bei unseren Suchen nicht das eigentliche Filmmaterial in der App gefunden haben.
Twitch, Twitter und Facebook haben erklärt, dass sie mit dem Global Internet Forum to Counter Terrorism zusammenarbeiten, um die Verbreitung des Videos zu begrenzen. Twitch und Discord haben außerdem bestätigt, dass sie mit Regierungsbehörden zusammenarbeiten, die die Situation untersuchen. Auf einem privaten Discord-Server beschrieb der Schütze seine Pläne für die Schießerei vor dem Angriff ausführlich.
Laut von Tech geprüften Dokumenten beschloss der Buffalo-Schütze, seinen Angriff auf Twitch zu übertragen, weil eine antisemitische Schießerei im Jahr 2019 in der Halleschen Synagoge für Twitch live blieb über 30 Minuten bevor es abgebaut wurde. Der Schütze überlegte, auf Facebook zu streamen, entschied sich jedoch gegen die Nutzung der Plattform, da er der Meinung war, dass Benutzer angemeldet sein müssten, um Livestreams anzusehen.
Facebook hat auch versehentlich Massenerschießungen veranstaltet, die der algorithmischen Erkennung entgangen sind. Im selben Jahr wie die Schießerei in der Halle-Synagoge wurden 50 Menschen bei einem islamfeindlichen Angriff auf zwei Moscheen in Christchurch, Neuseeland, getötet, der 17 Minuten lang gestreamt wurde. Wenigstens drei Täter von Massenerschießungen, einschließlich des Verdächtigen in Buffalo, haben das per Livestream übertragene Massaker von Christchurch als Inspirationsquelle für ihre rassistischen Angriffe angeführt.
Facebook stellte am Tag nach den Schießereien in Christchurch fest, dass es 1,5 Millionen Videos des Angriffs entfernt hatte, von denen 1,2 Millionen beim Hochladen blockiert wurden. Dies warf natürlich die Frage auf, warum Facebook 300.000 dieser Videos nicht sofort erkennen konnte, was einer Fehlerquote von 20 % entspricht.
Gemessen daran, wie einfach es war, Videos der Buffalo-Schießerei auf Facebook zu finden, scheint die Plattform noch einen langen Weg vor sich zu haben.