Substack verfügt über branchenführende Newsletter-Tools und eine Plattform, die unabhängige Autoren in Scharen nutzen, doch die jüngsten Fehltritte bei der Inhaltsmoderation könnten sich als kostspielig erweisen.
Ende November der Atlantik gemeldet dass eine Suche auf der Veröffentlichungsplattform „auf Substack Dutzende weiß-supremacistischer, neokonföderierter und explizit nationalsozialistischer Newsletter aufdeckt – viele davon erschienen offenbar im vergangenen Jahr.“ Dazu gehörten 16 Newsletter mit expliziten Nazi-Bildern, darunter Hakenkreuze und das Symbol der schwarzen Sonne, das häufig von modernen weißen Rassisten verwendet wird. Die Bilder tauchten an prominenten Stellen auf Substack auf, unter anderem in einigen Newsletter-Logos – Stellen, die die Art von algorithmischen Moderationssystemen, die auf traditionellen Social-Media-Plattformen Standard sind, leicht erkennen konnten.
Substack-Autoren nahmen dies zur Kenntnis und sammelten die Unterschriften in einem Brief fast 250 Autoren auf der Plattform drängte das Unternehmen, seine Entscheidung zu erklären, Neonazis und andere weiße Rassisten zu veröffentlichen und von ihnen zu profitieren. „Ist es Teil Ihrer Erfolgsvision, Nazis zu plattmachen?“ Sie schrieben. „Lassen Sie es uns wissen – von dort aus können wir alle entscheiden, ob wir immer noch dort sein wollen.“
Damals war Substack-CEO Hamish McKenzie angesprochen In einer Notiz auf der Website äußerte er die zunehmenden Bedenken über Substacks aggressiv zurückhaltende Herangehensweise und stellte fest, dass Substack zwar „auch keine Nazis mag“, aber gegen die Normen der Inhaltsmoderation verstoßen würde, indem er weiterhin extremistische Inhalte hoste, darunter Newsletter von Nazis und anderen weiße Rassisten.
„Wir werden diese Regeln weiterhin aktiv durchsetzen und gleichzeitig Tools anbieten, mit denen Leser ihre eigenen Erfahrungen kuratieren und sich für ihre bevorzugten Communities entscheiden können“, schrieb McKenzie. „Darüber hinaus werden wir an unserem dezentralen Ansatz zur Inhaltsmoderation festhalten, der Lesern und Autoren Macht gibt.“
McKenzie übersieht oder kümmert sich nicht darum, wie die Verstärkung des Hasses – in diesem Fall nichts weniger als die selbsternannte weiße Vorherrschaft und die Nazi-Ideologie – dazu dient, die Ziele dieses Hasses zu entmachten, zu vertreiben und sogar zum Schweigen zu bringen. Selbst ein Hauch dieser Art von Extremismus zu beherbergen, sendet die klare Botschaft aus, dass mehr davon erlaubt ist.
McKenzie führte weiter aus, dass das Unternehmen die Grenze bei „Aufstachelungen zur Gewalt“ zieht – was nach Substacks Definition notwendigerweise äußerst spezifisch sein muss oder anderweitig nicht artikulierte Kriterien erfüllen muss, angesichts seiner Entscheidung, Ideologien zu unterstützen, die per Definition auf die Ausrottung rassischer und ethnischer Minderheiten abzielen einen weißen Ethnostaat errichten.
In ihrem eigenen Billigung In Bezug auf den offenen Brief der Substack-Autoren stellte Margaret Atwood dasselbe fest. „Was bedeutet „Nazi“?“ fragte Atwood. „Viele Dinge, aber darunter ist ‚Töte alle Juden‘ … Wenn ‚Nazi‘ das nicht bedeutet, was bedeutet es dann stattdessen? Ich würde es gerne wissen. So wie es aussieht, sagt jeder, der das Abzeichen zeigt oder den Namen beansprucht, im Grunde: „Tötet alle Juden.““
Nichts davon ist eine Überraschung. Zwischen den erklärtes Ethos der Unternehmensführung und frühere Kontroversen das viele Transgender-Benutzer von der Plattform abwandte, waren Substacks Mangel an Fachwissen und sogar aktives Desinteresse an den grundlegendsten Werkzeugen der Inhaltsmoderation schon früh in seinem Aufwärtstrend ziemlich deutlich.
Anfang letzten Jahres sagte Chris Best, CEO von Substack versäumte es, Antworten zu formulieren bis hin zu einfachen Fragen des Verge-Chefredakteurs Nilay Patel zur Inhaltsmoderation. Das Interview fand statt, als Substack seine eigene Twitter (jetzt X)-ähnliche Microblogging-Social-Plattform namens Notes startete. Am Ende nahm Best eine schwankende Verteidigungshaltung ein und sagte, er werde sich „nicht auf Spekulationen einlassen oder konkrete ‚Würden Sie diesen oder jenen Inhalt zulassen‘“, als er zu einer Antwort aufgefordert wurde, ob Substack die Ausbreitung von rassistischem Extremismus zulassen würde.
In einem Folgebeitrag machte McKenzie einen schlaffe Geste zur Korrektur des Datensatzes. „Wir haben das vermasselt“, schrieb er. „Und für den Fall, dass jemals jemand Zweifel hat: Wir mögen oder dulden keine Bigotterie in irgendeiner Form.“ Das Problem besteht darin, dass Substack trotz seiner Verteidigung dies tatsächlich tat und sogar einen monetarisierten Newsletter des Unite the Right-Organisators und prominenten weißen Rassisten Richard Spencer zuließ. (Substack erhält eine 10-prozentige Kürzung der Einnahmen von Autoren, die ihre Präsenz auf der Plattform monetarisieren.)
Substack-Autoren stehen am Scheideweg
Im Zuge des anhaltenden Substack-Fallouts denkt eine weitere Welle desillusionierter Autoren darüber nach, Substack zu verlassen und eine beträchtliche Leserschaft im Schlepptau zu haben. „Ich sagte, ich würde es tun, und ich habe es getan, sodass Today in Tabs endlich frei von unserer ehemaligen bedauerlichen Plattform ist, die über die Feiertage nicht weniger bedauerlich geworden ist“, so Rusty Foster, Autor von Today in Tabs schrieb von seiner Entscheidung, zum Substack-Konkurrenten Beehiiv zu wechseln.
Aus seiner Ecke von Substack stammt der Platfomer-Autor und Technikjournalist Casey Newton übt weiterhin Druck auf das Unternehmen aus um gegen Nazi-Inhalte vorzugehen, einschließlich einer Liste von Konten, die das Platformer-Team selbst identifiziert und bereitgestellt hat und die offenbar gegen die Regeln des Unternehmens gegen Anstiftung zu Gewalt verstoßen. Newton, der seit Jahren die Inhaltsmoderation auf traditionellen Social-Media-Seiten verfolgt, liefert eine prägnante Begründung dafür, warum Substack zunehmend mehr mit diesen Unternehmen – den Facebooks, Twitters und YouTubes – gemeinsam hat als beispielsweise mit Dreamhost:
„[Substack] Es möchte als reiner Infrastrukturanbieter gesehen werden – so etwas wie Cloudflare, das scheinbar nur alle paar Jahre Inhalte moderieren muss. Cloudflare empfiehlt jedoch keine Blogs. Es wird keine Zusammenfassung der zu besuchenden Websites versendet. Es betreibt kein textbasiertes soziales Netzwerk und empfiehlt ganz oben keine Beiträge, die Ihnen gefallen könnten.
… Bei empfohlenen Inhalten die Augen zu verschließen, führt fast immer dazu, dass eine Plattform beschädigt wird. Es waren Empfehlungen auf Twitter, Facebook und YouTube, die dazu beitrugen, Alex Jones von einem Randverschwörungstheoretiker in einen Moloch zu verwandeln, der Familien aus ihren Häusern vertreiben konnte. Es waren Empfehlungen, die QAnon vom verrückten Trolling auf 4Chan in eine gewalttätige nationale Bewegung verwandelten. Es waren Empfehlungen, die zum Aufbau der modernen Impfgegner-Bewegung beitrugen.
In dem Moment, in dem eine Plattform anfängt, Inhalte zu empfehlen, kann sie nicht mehr behaupten, einfache Software zu sein.“
Am Montag, Substack stimmte der Entfernung zu „mehrere Veröffentlichungen, die die Nazi-Ideologie unterstützen“ aus der Liste der gekennzeichneten Konten von Platformer. Trotz laufender Prüfung beharrte das Unternehmen darauf, dass es laut Platformer nicht proaktiv damit beginnen werde, extremistische und neonazistische Inhalte von der Plattform zu entfernen. Substack versucht, die Nadel einzufädeln, indem es verspricht, dass es „aktiv an mehr Reporting-Tools arbeitet“, damit Benutzer Inhalte kennzeichnen können, die möglicherweise gegen seine Inhaltsrichtlinien verstoßen – und effektiv die grundlegendste Moderationsarbeit des Unternehmens für das Unternehmen übernehmen können, das selbst ein altehrwürdiges soziales Netzwerk ist Plattformtradition.
Die nützlichen Verlagstools und die angemessene Gewinnbeteiligung von Substack sind in vielerlei Hinsicht ausgefeilter als ein Rumble oder ein Truth Social und haben müde Autoren aus dem gesamten politischen Spektrum angelockt, die auf der Suche nach einem Ort sind, an dem sie ihren Hut aufhängen können. Aber solange Substack sich nicht ernsthafter mit der Moderation von Inhalten beschäftigt, läuft es Gefahr, Mainstream-Autoren – und ihre Abonnenten – zu verlieren, die zu Recht besorgt sind, dass ihre Führungskräfte darauf bestehen, Neonazis und ihresgleichen im Auge zu behalten.
Substack bietet Schriftstellern und Journalisten seit Langem einen weichen Landeplatz, aber die jüngste Halbheit des Unternehmens wird wohl niemandem gefallen, der sich noch lange Sorgen um die Richtlinien der Plattform macht. Es ist bedauerlich, dass sich die Autoren und Leser von Substack nun mit einer weiteren Form vermeidbarer Prekarität in der Verlagswelt auseinandersetzen müssen.