„Facebook-Gefängnis“, der Name, den die Nutzer des sozialen Netzwerks dem System des Unternehmens zur Feststellung von Richtlinienverstößen gegeben haben, wird überarbeitet. Meta angekündigt Heute wird es sein Strafsystem auf der Grundlage der Empfehlungen des Aufsichtsgremiums reformieren, dem unabhängigen Gremium aus Experten, Akademikern, führenden Persönlichkeiten der Zivilgesellschaft und Anwälten, das nun die von Meta getroffenen Berufungsentscheidungen abwägt. Der Vorstand hatte lange Bedenken hinsichtlich des Strafsystems von Facebook geäußert, das er als „unverhältnismäßig und undurchsichtig“ bezeichnete. Es riet Facebook auch, bei seinen Entscheidungen transparenter mit den Benutzern umzugehen, und drängte darauf, Benutzern zu erlauben, den Kontext ihres verletzenden Beitrags zu erklären, wenn sie gegen eine Entscheidung von Meta Berufung einlegen.
Heute sagt Meta, dass es sein System reformieren wird, um sich weniger darauf zu konzentrieren, Endbenutzer zu bestrafen, indem es ihre Fähigkeit zum Posten einschränkt, und mehr darauf, die Gründe für die Entfernung von Inhalten zu erklären, was seiner Ansicht nach ein faireres und effektiveres Mittel zur Moderation von Inhalten auf seiner Plattform sein wird .
Das neue System erzwingt in den meisten Fällen keine strengen Strafen, wie die 30-tägige Auszeit vom Posten bis zum siebten Verstoß.
„Wir nehmen diese Änderung zum Teil vor, weil wir wissen, dass wir es nicht immer richtig machen. Anstatt Menschen mit einer geringeren Anzahl von Verwarnungen aufgrund von Verstößen mit geringem Schweregrad möglicherweise zu stark zu bestrafen und ihre Meinungsäußerung einzuschränken, wird dieser neue Ansatz zu schnelleren und wirkungsvolleren Maßnahmen für diejenigen führen, die kontinuierlich gegen unsere Richtlinien verstoßen“, schrieb Monika Bickert , Meta Vice President of Content Policy, in einer Nachrichtenredaktion Bekanntmachung über die Änderungen.
Meta erklärt, dass sich eigentlich nichts an seinem Entscheidungsprozess in Bezug auf das Entfernen von Inhalten selbst ändert, aber es wird die Transparenz seiner Entscheidungen erhöhen, indem es den Benutzern seine Richtlinien erklärt, wenn Verstöße auftreten. Historisch gesehen, sagte Meta, fanden sich Menschen im „Facebook-Gefängnis“ wieder, ohne überhaupt zu verstehen, was sie falsch gemacht hatten. Einige wussten auch nicht, dass sie bestraft worden waren, nachdem sie festgestellt hatten, dass sie plötzlich nicht mehr posten konnten. Meta verhängte jedoch strenge und langwierige Strafen für diese Verstöße auf niedrigerer Ebene, die oft nicht böse gemeint waren.
In seiner Ankündigung nannte das Unternehmen einige Beispiele für die Art von Beiträgen, die in der Vergangenheit möglicherweise zu einer Facebook-Gefängnisstrafe geführt haben.
Zum Beispiel haben Sie vielleicht mit einem Freund gescherzt: „Ich bin auf dem Weg, Sie zu entführen“, obwohl Sie eigentlich vorhatten, ihn nach einem harten Tag zum Abendessen auszuführen. Oder Sie haben vielleicht den Namen und die Adresse einer Person gepostet – ein Verstoß gegen die Richtlinien zur Weitergabe personenbezogener Daten –, obwohl Sie in Wirklichkeit nur einen Freund zu einer Party eingeladen haben. In beiden Szenarien wäre die vorherige Reaktion von Facebook unverhältnismäßig gewesen.
Dieses System hatte echte Schäden, räumt Meta ein. Personen, denen das Posten verboten ist, verlieren nicht nur ihre Fähigkeit, sich auszudrücken und sich mit ihren lokalen Gemeinschaften zu verbinden, sagt das Unternehmen, sondern sie können möglicherweise auch ihr Geschäft auf Facebook nicht führen, während sie sich im „Facebook-Gefängnis“ befinden. Und diese „Auszeiten“ könnten langwierig sein. Das vorherige System hätte Benutzer sofort für 30 Tage daran gehindert, Beiträge zu posten – ein Zeitraum, der noch frustrierender ist, wenn der Fehler geringfügig war oder der Kontext nicht berücksichtigt wurde.
Darüber hinaus hat das System das größere Problem mit den wirklich schlechten Schauspielern nicht wirklich angegangen – es ließ sie länger auf der Plattform bleiben, weil es Meta daran hinderte, größere Verstöße zu erkennen, stellt es fest.
Um dem entgegenzuwirken, erhöht Meta die Transparenz bei Verstößen und bestraft gleichzeitig wiederholte Verstöße, was nach Ansicht von Meta und dem Aufsichtsgremium ein wirksameres Mittel zur Bewältigung von Problemen mit schlechten Akteuren wäre.
Um zu dem Schluss zu kommen, führte Meta eine Analyse seines Strafsystems durch und stellte fest, dass fast 80 % der Benutzer mit einer geringen Anzahl von Verwarnungen in den nächsten 60 Tagen nicht erneut gegen seine Richtlinien verstießen, was zeigte, dass die meisten Benutzer gut darauf reagierten zu einer Warnung und Erklärung. In der Zwischenzeit verhängte es beim siebten Streik seine strengeren Strafen, was „gut gemeinten Menschen die Anleitung gab, die sie brauchen, während es immer noch schlechte Schauspieler entfernt“.
Es gibt jedoch mehr Nuancen bei den Änderungen, als einfach länger zu warten, um Verstöße zu bestrafen. Schwerwiegende Verstöße werden hier nicht bestanden. Meta sagt, dass Posts, die „Terrorismus, Kinderausbeutung, Menschenhandel, Selbstmordförderung, sexuelle Ausbeutung, den Verkauf von nichtmedizinischen Drogen oder die Werbung für gefährliche Personen und Organisationen“ beinhalten, weiterhin unmittelbare Konsequenzen haben werden, einschließlich zeitweiliger Kontolöschungen .
Es kann in einigen Fällen auch Personen daran hindern, in Facebook-Gruppen bei niedrigeren Schwellenwerten als dem siebten Verstoß zu posten, hat diesen Teil jedoch nicht näher ausgeführt.
Die Entscheidung von Meta, diese Änderungen nach Jahren des Aufschreis der Benutzer und des Drucks von außen jetzt anzuwenden, ist erwähnenswert. In den USA Republikaner Gesetzgeber haben lange darauf bestanden dass Facebook und andere Big-Tech-Unternehmen wie Google und Twitter konservative Standpunkte zensieren – in letzter Zeit Unternehmen wie Facebook und Twitter unter Druck setzen, ihre individuellen Moderationsentscheidungen zu erklären, wie bei der Laptop-Story von Hunter Biden. Diese Behauptungen der Zensur haben zusammen mit anderen Faktoren dazu beigetragen, dass einige Gesetzgeber Interesse daran haben, Technologieplattformen zu regulieren oder sie sogar wegen kartellrechtlicher Bedenken aufzulösen. Es besteht die Überzeugung, dass die Unternehmen zu viel Macht hatten, den Diskurs zu regulieren, was zu langwierigen Debatten darüber geführt hat, inwieweit diese Unternehmen die „freie Meinungsäußerung“ verhindern oder Regeln darüber aufstellen, wie sie ihr eigenes Geschäft betreiben wollen.
Durch die Reduzierung der Schwere der Strafen versucht Meta, seine Fähigkeit, verletzende Inhalte zu entfernen, mit den tatsächlichen Schäden in Bezug auf die Auswirkungen auf einzelne Benutzer in Einklang zu bringen. Aber es gibt dem Unternehmen immer noch Spielraum, um sofortige Entscheidungen zu treffen – zum Beispiel, ob ein amtierender US-Präsident das kann oder nicht ihr Konto haben verboten, evtl.
Das Aufsichtsgremium begrüßte Metas Entscheidung heute in a Blogeintrag, deutete aber an, dass es noch Raum für Verbesserungen gebe, insbesondere bei der Transparenz in Bezug auf „schwere Streiks“. Es heißt auch, dass die Erklärungen und der Kontext der Benutzer von den Inhaltsprüfern während des Beschwerdeverfahrens berücksichtigt werden sollten. Der Beitrag war jedoch weitgehend positiv und sagte, das neue System sei zumindest „fairer gegenüber Benutzern, die in der Vergangenheit unverhältnismäßig stark betroffen waren“.
„Dies ist ein willkommener Schritt in die richtige Richtung für Meta, und der Vorstand wird weiterhin auf weitere Verbesserungen der Richtlinien und Praktiken von Meta zur Moderation von Inhalten drängen“, hieß es.