Johannes: Wie ist es möglich, dass verletzende, beleidigende und teilweise sogar diskriminierende Kommentare durch die Moderation gelangen?
„Gute Frage, wir bekommen diese oft. Wir bekommen zwischen 25.000 und 35.000 Antworten pro Tag. Hoffentlich haben Sie Verständnis dafür, dass wir es nicht nur mit menschlichen Moderatoren schaffen werden. Deshalb verwenden wir eine KI, die wir Maura nennen (Maschine für Automatic Reply Handling), das einen Teil der Kommentare genehmigt und dies auf der Grundlage dessen tut, was das Team menschlicher Moderatoren tut.“
„Es gibt einfach bestimmte Dinge, die eine KI schwer erkennen kann (um den Trollen keine Denkanstöße zu geben, darauf gehe ich nicht ein, sorry). Die KI wird kontinuierlich umgeschult, indem sie die Aktionen der menschlichen Moderatoren beobachtet bedeutet normalerweise, dass neue Formen von inakzeptablem Verhalten in unseren Reaktionen nicht sehr lange anhalten.“
„Außerdem passiert es sehr selten, dass ein menschlicher Moderator einen Fehler macht – obwohl das viel weniger passiert, nachdem wir im Dezember eine neue Version unseres Moderationssystems eingeführt haben einen Fehler korrigieren.“
„Außerdem bleibt es so, dass es unmöglich ist, jede Reaktion mit einem Menschen zu genehmigen, bevor sie darauf steht. Wenn Sie also etwas sehen, das Sie nicht für akzeptabel halten: Melden Sie es, und ein Mensch wird es immer sehen!“
Tim: Wenn ein Kommentar hervorgehoben ist, bedeutet das, dass Sie als Redakteure diese Meinung teilen?
„Nein. Hervorgehobene Kommentare sind eine Darstellung der Diskussion, die in den Kommentaren stattfindet. Wir wählen sie von Hand aus und versuchen sicherzustellen, dass zwischen den Seiten der Diskussion ein Gleichgewicht besteht. Das ist nicht immer einfach oder sogar möglich, aber immer das Ziel .“
Prager: Kann man bei einem moderierten Kommentar eine Begründung zurückbekommen und Widerspruch einlegen? Nicht mit dem Ziel, den Kommentar trotzdem zu posten, sondern um die Einschätzung der Moderatoren zu verbessern. Und als Lernpunkt für mich.
„Sehr sek: ja, im Prinzip sollte das entwicklungsfähig sein. Das große Problem ist, dass unsere KI einen Teil der Reaktionen absegnet. Sie hat keinen Grund mehr, als ‚danach, wie ähnliche Reaktionen in der Vergangenheit beurteilt wurden, ich missbillige das. Das wird dich nicht klüger machen.“
„Für die menschlichen Moderatoren ist es schon ein enormer Aufwand, den Reaktionsstrom, den wir vor unserer Wahl erhalten, zu moderieren. Wenn wir jede Reaktion begründen müssen, ist das so viel mehr Arbeit, dass es nicht zu schaffen ist.“
„Ich möchte hinzufügen, dass uns das wirklich gefallen würde. Wenn Sie eine großartige technische Lösung im Sinn haben, senden Sie mir eine E-Mail an [email protected].“
Bernard: Warum öffnet ihr überhaupt die Kommentarfunktion bei kontroversen Themen? Denken Sie an Artikel über Asylbewerber, Arbeitsmigranten und Verurteilungen.
„Denn wir bekommen auch viele nützliche und gute Antworten von Usern, die eine gute Diskussion führen wollen. Das möchten wir ermöglichen. Außerdem finden wir es sehr wertvoll zu wissen, was bei unseren Usern los ist und welche Fragen sie noch haben.“ .. Vielleicht ist es gerade bei dieser Art von Themen.“
„Trotzdem werden wir natürlich genau beobachten, ob es noch das produziert, was wir wollen. Sie werden bemerkt haben, dass wir die Kommentare auch schließen, wenn es uns mehr Arbeit macht, als es erzeugt. Oder wenn es Verurteilungen gibt, ob es sich um Unfälle handelt.“ bloßes Sitzen auf dem Richterstuhl oder Spekulation.“
Timara: Warum kann ein Benutzer keinen eigenen Benutzernamen erstellen?
„Wir stellen seit ungefähr anderthalb Jahren auf eine neue Version unseres Moderationssystems um. Das war ein Feature, das wir immer noch gerne darin hätten, aber es hätte das Ganze um ein paar Monate verzögert warum wir uns entschieden haben, ohne sie live zu gehen.“
„Irgendwann in der Zukunft wird es wieder möglich sein, aber ich wage nicht zu sagen, wann. Wenn Sie in der Zwischenzeit einen anderen Benutzernamen wünschen, können Sie uns eine E-Mail an [email protected] senden und wir werden das für Sie arrangieren.“
Bora Bora: Die Grenze zwischen einer scharfsinnigen Antwort und Beleidigung oder Diskriminierung ist manchmal umstritten. Wie gehen Sie damit um? Und wo ist die Grenze beim Passieren rechter und linker Meinungen?
„Rechte und linke Meinungen und alle anderen Meinungen sind völlig in Ordnung. Allerdings stellen wir auch bei sehr großen, kühnen Behauptungen höhere Anforderungen an die Begründung. Wenn Sie behaupten wollen, dass die Sonne in fünf Jahren ausbrennt, Sie können das auch stichhaltig begründen.“
„Die Grenze zwischen scharfen Reaktionen, Beleidigungen und Diskriminierung liegt bei den menschlichen Moderatoren. Wir organisieren sehr regelmäßig Sitzungen, bei denen wir uns mit allen Moderatoren gleichzeitig zusammensetzen und fragwürdige Kommentare moderieren und diskutieren. So bringen wir alle auf dieselbe Seite und wir sorgen dafür, dass Ihnen klar ist, wann etwas erlaubt ist und wann nicht. Mir ist bewusst, dass dies im Moment nicht immer perfekt läuft, aber wir arbeiten mit Hochdruck daran!“
Fan: Wird Ihre Reaktion schneller genehmigt, wenn Sie viele Reaktionen posten, die von NU.nl geschätzt werden?
„Ihr Kommentar wird nicht schneller oder weniger schnell genehmigt, wenn viele Ihrer vorherigen Kommentare genehmigt oder abgelehnt wurden. Wir beurteilen jeden Kommentar nach seinen eigenen Merkmalen (es sei denn, Sie versuchen, denselben Kommentar sehr oft zu posten). Wir sehen uns manchmal Verbote an oder Suspendierungen, was Einsatzkräfte zuvor getan haben und wie dies von uns bewertet wurde.“
JMV: Inwieweit beurteilt der Moderator objektiv, was gepostet wird und was nicht?
„Totale Objektivität ist meiner Meinung nach unmöglich. Wir geben allen unseren Moderatoren alle Werkzeuge an die Hand, um Antworten anhand der Hausordnung zu bewerten, und nehmen auf diese Weise so weit wie möglich die eigene Brille ab.“
„Moderierende Kommentare zu politischen Präferenzen sind strengstens verboten. Aber wenn ich meine Leute anschaue, wage ich es, meine Hand ins Feuer zu legen, dass niemand auch nur daran denken würde.“
Richard: Mir fällt auf, dass in meinem Fall alle Kommentare, die ich poste, (vorübergehend) zur Moderation zurückgehalten werden. Zumindest seit der neuen Software habe ich nie gesehen, dass meine Antwort sofort auftaucht. Ist das bei allen so?
„Wenn Sie über die Nachricht sprechen ‚Ihr Kommentar wurde hinzugefügt und wird zuerst von einem Moderator überprüft‘: Das ist in der Tat für alle der Fall. Entweder wird Ihr Kommentar in unsere menschliche Moderationswarteschlange gestellt, oder Ihr Kommentar wird von überprüft unser KI-Moderator. Also ja, Ihre Antwort wird in jedem Fall überprüft, bevor sie gepostet wird.“