Als Schütze Terror in einem Supermarkt in Buffalo, New York Am Wochenende wurde die Gewalt erneut live im Internet übertragen. Die jüngste Massenschießerei in den USA hat 10 Menschen das Leben gekostet und bekannte Fragen darüber aufgeworfen, wie viel Verantwortung Social-Media-Unternehmen bei der Verstärkung von Extremismus tragen, der zu Gewalt führen kann, und bei der nachträglichen Verbreitung von Filmmaterial dieser zutiefst beunruhigenden Vorfälle.
Der 18-jährige Verdächtige, der sich jetzt in Haft befindet, wurde mit einem Manifest und Discord-Nachrichten in Verbindung gebracht, in denen er beschreibt, wie er auf 4chan radikalisiert wurde, den Moscheenschützen von Christchurch, Neuseeland, lobt und seinen Plan darlegt, Bewohner von Black Buffalo zu töten. Der Schütze hat die Gewalt auf Twitch live gestreamt und sich für die Plattform über Facebook entschieden, da sich die Zuschauer laut von Tech geprüften Dokumenten nicht anmelden müssen.
Es ist unmöglich zu sagen, ob die Möglichkeit, eine Massenschießerei live zu übertragen, eine Person dazu inspirieren könnte, Gewalt auszuüben, die sie sonst nicht hätte, aber die Technologie bietet Extremisten ein Publikum – und ein Archiv ihrer Aktionen, die weit über den Anfang hinaus Bestand haben Grusel. Diese gruseligen Hinterlassenschaften können verweilenandere dazu inspirieren, ähnliche Gewalttaten zu begehen.
Social-Media-Plattformen haben sich seit Jahren mit Massenerschießungen auseinandergesetzt und die übliche Kombination aus KI und menschlichen Moderatoren genutzt, aber diese Systeme können immer noch nicht verhindern, dass sich virale Inhalte verbreiten und vermehren, wenn es darauf ankommt.
Der Livestream der Dreharbeiten am Samstag wurde von Twitch innerhalb von Minuten entfernt, aber das Filmmaterial wurde bereits kopiert und an anderer Stelle hochgeladen. Versionen des Videos wurden auf Facebook weit verbreitet, wo einige Benutzer, die das Video gemeldet hatten, feststellten, dass das soziale Netzwerk es ihnen gesagt hatte der Inhalt hat nicht gegen seine Regeln verstoßen. Ein weit verbreiteter Clip des Videos wurde auf die Video-Hosting-Site Streamable hochgeladen, wo es über drei Millionen Mal angesehen wurde, bevor das Unternehmen es wegen Verstoßes gegen die Nutzungsbedingungen entfernte. Facebook antwortete nicht auf eine Frage von Tech, warum seine Moderationssysteme dem Video Entwarnung gegeben haben.
Während der mutmaßliche Schütze sein Interesse an der Übertragung auf Mainstream-Social-Media-Sites bekundete, beschrieb er, die meiste Zeit auf 4chan zu verbringen, einem Online-Forum, das für sein völliges Fehlen von Inhaltsmoderation und die extremistischen Ansichten berüchtigt ist, die dort ein angenehmes Zuhause finden. Er verbrachte auch Zeit damit, seine Pläne auf einem privaten Discord-Server zu dokumentieren, und stellte erneut die schwierige Frage, wo Plattformen die Grenze bei der Moderation privater Bereiche ziehen sollten.
In einem (n Interview mit NPR, forderte die New Yorker Gouverneurin Kathy Hochul die Social-Media-Unternehmen auf, Inhalte aggressiver zu überwachen, um Extremisten abzufangen. Hochul schlug ein „Auslösesystem“ vor, das die Strafverfolgungsbehörden alarmieren würde, wenn Nutzer sozialer Medien den Wunsch äußern, anderen Schaden zuzufügen.
„Das ist alles telegrafiert. Es wurde in einem Manifest niedergeschrieben, das auf Social-Media-Plattformen veröffentlicht wurde. Die Informationen waren da“, sagte Hochul. „Sie müssen über Algorithmen verfügen, die sehr schnell erkennen, sobald Informationen veröffentlicht werden, damit sie von den zuständigen Strafverfolgungsbehörden aufgespürt werden können. Sie haben die Ressourcen dafür. Sie müssen die Verantwortung dafür übernehmen, da sich dieser Virus sonst weiter ausbreiten wird.“
Aber im Fall der Massenerschießung in Buffalo wurden die Pläne des Verdächtigen privat über eine Messaging-App geteilt und offen auf einer Website veröffentlicht, die dafür bekannt ist, dass sie sich weigert, Inhalte zu moderieren, zu deren Entfernung sie gesetzlich nicht verpflichtet sind.
Und, wie viele Leute nach der Buffalo-Tragödie betont haben, der „Virus“, den Hochul beschreibt ist schon da. Der mutmaßliche Schütze wurde von einer Ideologie namens „der große Ersatz,“, einst eine von erklärten weißen Rassisten vertretene Randüberzeugung, die rassistische Ängste über die aufkommende nicht-weiße Bevölkerungsmehrheit in Ländern wie den USA schürt
Mit diesen Ideen jetzt so einfach zu finden Kabel Nachrichten oder im Kongress Da sie auf 4chan sind, kann uns kein Algorithmus von der Gewalt befreien, die sie inspirieren.