Vor einem Jahr enthüllte das Wall Street Journal, dass Facebook betrieb ein zweistufiges Content-Moderation-System. Normale Benutzer unterlagen den von der Plattform festgelegten Regeln, während VIP-Benutzer in einem Programm, das intern als „Cross-Check“ bezeichnet wird, heimlich als Spezial gekennzeichnet wurden.
Diese Liste umfasste alle, vom brasilianischen Fußballstar Neymar und dem ehemaligen Präsidenten Donald Trump bis zur konservativen Kommentatorin Candace Owens und dem Firmengründer Mark Zuckerberg. Laut WSJ wurde dieses System entwickelt, um Fälle zu minimieren, in denen Facebook im Rahmen der normalen Moderation Inhalte von einem VIP moderieren und dabei einen Feuersturm schlechter Presse auslösen könnte.
„Wenn die Systeme von Facebook zu dem Schluss kommen, dass eines dieser Konten möglicherweise gegen seine Regeln verstoßen hat, entfernen sie den Inhalt nicht – zumindest nicht sofort, wie die Dokumente zeigen“, so der Das berichtete das WSJ. „Sie leiten die Beschwerde an ein separates System weiter, das mit besser ausgebildeten Vollzeitmitarbeitern besetzt ist, um weitere Überprüfungsebenen zu ermöglichen.“
Die Gegenprüfung wurde Mitte September letzten Jahres bekannt, und Ende des Monats bat das Unternehmen das Oversight Board, Metas halbunabhängigen politischen Rat, darum Überprüfen Sie das System und schlagen Sie Möglichkeiten vor, es zu beheben. „Insbesondere werden wir den Vorstand um Anleitung zu den Kriterien bitten, die wir verwenden, um festzulegen, welche Prioritäten für eine sekundäre Überprüfung per Gegenprüfung gesetzt werden, und wie wir das Programm verwalten“, schrieb Nick Clegg, Meta VP of Global Affairs.
Das Aufsichtsgremium ist nun mit seinen Empfehlungen zurück und fordert „signifikante Verbesserungen“ des Cross-Check-Programms.
„Jahrelang erlaubte die Gegenprüfung, dass Inhalte von einer ausgewählten Gruppe von Politikern, Geschäftspartnern, Prominenten und anderen mehrere Tage lang auf Facebook und Instagram blieben, wenn sie sonst schnell entfernt worden wären“, schrieb die Gruppe in einem Blogbeitrag. Beachten Sie, dass einige Inhalte, die einer Gegenprüfung unterzogen wurden, 7 Monate lang aktiv waren, bevor das Unternehmen eine Entscheidung darüber traf, ob sie entfernt werden sollen.
Das Oversight Board bot 32 empfohlene Änderungen an diesem Prozess an, darunter einige Schritte, die ein zuvor geheimes Programm viel transparenter machen würden. Der Vorstand forderte das Unternehmen auf, „klare Kriterien“ zu veröffentlichen, die beschreiben, welche Konten für den zusätzlichen Überprüfungsprozess der Gegenprüfung in Frage kommen, Konten, die sich im Programm befinden, sichtbar zu markieren und Personen, die die Anforderungen erfüllen könnten, die Möglichkeit zu geben, den Sonderkontostatus zu beantragen .
Der Vorstand forderte Meta außerdem auf, „Benutzer, die wahrscheinlich für die Menschenrechte wichtig sind“, wie Journalisten und Bürgerrechtsgruppen, im Gegenkontrollsystem zu priorisieren, anstatt diese Anrufe auf der Grundlage seiner Geschäftsinteressen zu tätigen. „Während die Anzahl der Follower das öffentliche Interesse an der Äußerung eines Benutzers anzeigen kann, sollte die Berühmtheit oder die Anzahl der Follower eines Benutzers nicht das einzige Kriterium für den Erhalt von zusätzlichem Schutz sein“, schrieb das Board. „Wenn Nutzer, die aufgrund ihrer kommerziellen Bedeutung einbezogen werden, häufig rechtsverletzende Inhalte posten, sollten sie nicht mehr von einem besonderen Schutz profitieren.“
Der vollständige Satz von Empfehlungen, der im Blog des Oversight Board veröffentlicht wird, fordert Meta auf, seine Prioritäten bei der Moderation von Inhalten für hochkarätige Benutzer grundlegend neu auszurichten. Wie viel davon das Unternehmen tatsächlich umsetzen wird, bleibt abzuwarten, aber dieser ganze Prozess sieht im Vergleich zu den Richtlinien, die heutzutage bei Twitter stattfinden, sicherlich wie eine gut geölte Maschine aus.