Entscheidung von Google zu blockieren Der Start der Truth Social App im Play Store wegen Problemen mit der Inhaltsmoderation wirft die Frage auf, warum Apple keine ähnlichen Maßnahmen bezüglich der iOS-Version der App ergriffen hat, die seit Februar im App Store live ist. Entsprechend ein Bericht von Axios, fand Google zahlreiche Posts, die gegen die Inhaltsrichtlinien des Play Store verstießen und den Weg der App blockierten, auf seiner Plattform live zu gehen. Aber einige dieser gleichen Arten von Posts scheinen in der iOS-App verfügbar zu sein, fand Tech heraus.
Dies könnte irgendwann zu einer erneuten Überprüfung der iOS-App von Truth Social führen, da die Richtlinien von Apple und Google weitgehend darauf abgestimmt sind, wie Apps mit nutzergenerierten Inhalten ihre Inhalte moderieren müssen.
Axios hat sich diese Woche erstmals gemeldet Googles Entscheidung, die Verbreitung der Truth Social App auf seiner Plattform zu blockieren, folgt ein Interview gegeben vom CEO der App, Devin Nunes. Der ehemalige Kongressabgeordnete und Mitglied von Trumps Übergangsteam, jetzt Social-Media-CEO, schlug vor, dass die Verzögerung bei der Android-Veröffentlichung der App auf Googles Seite liege, und sagte: „Wir warten darauf, dass sie uns genehmigen, und ich weiß es nicht was dauert es so lange.“
Dies sei jedoch eine Fehlcharakterisierung der Situation, sagte Google. Nachdem Google die letzte Einreichung von Truth Social im Play Store überprüft hatte, stellte es mehrere Richtlinienverstöße fest, über die es Truth Social am 19. August informierte. Google informierte Truth Social auch darüber, wie diese Probleme angegangen werden könnten, um Zugang zum Play Store zu erhalten , stellte das Unternehmen fest.
„Letzte Woche hat Truth Social zurückgeschrieben, unser Feedback bestätigt und gesagt, dass sie daran arbeiten, diese Probleme anzugehen“, teilte ein Google-Sprecher in a mit Aussage. Diese Kommunikation zwischen den Parteien fand eine Woche vor Nunes Interview statt, in dem er andeutete, dass der Ball nun bei Google liege. (Der Subtext seiner Kommentare war natürlich, dass konservative Medien wieder einmal von Big Tech zensiert wurden.)
Das Problem, um das es hier geht, stammt von Google Richtlinie für Apps mit nutzergenerierten Inhalten, oder UGC. Gemäß dieser Richtlinie müssen Apps dieser Art implementiert werden „robuste, effektive und fortlaufende UGC-Moderation, da sie angemessen und konsistent mit der Art von UGC ist, die von der App gehostet wird.“ Die Moderation von Truth Social ist jedoch nicht robust. Das hat das Unternehmen öffentlich gesagt setzt auf ein automatisiertes KI-Moderationssystem, Hive, das verwendet wird, um Inhalte zu erkennen und zu zensieren, die gegen seine eigenen Richtlinien verstoßen. Auf seiner Website stellt Truth Social fest, dass menschliche Moderatoren den Moderationsprozess „überwachen“, was darauf hindeutet, dass eine branchenübliche Mischung aus KI und menschlicher Moderation verwendet wird. (Zu beachten ist, dass die Geheimdienstfirma des App Store Apptopia sagte Tech, dass die mobile Truth Social-App die Hive-KI nicht verwendet. Aber es sagt, dass die Implementierung serverseitig sein könnte, was den Rahmen dessen sprengen würde, was es sehen kann.)
Die Verwendung von KI-gestützter Moderation durch Truth Social bedeutet nicht unbedingt, dass das System ausreicht, um es mit den eigenen Richtlinien von Google in Einklang zu bringen. Die Qualität von KI-Erkennungssystemen ist unterschiedlich und diese Systeme setzen letztendlich eine Reihe von Regeln durch, die ein Unternehmen selbst zu implementieren beschließt. Laut Google enthielten mehrere Beiträge von Truth Social, auf die es stieß, physische Drohungen und Aufrufe zu Gewalt — Bereiche, die die Play Store-Richtlinie verbietet.
Bildnachweis: Play Store-Eintrag von Truth Social
Wir verstehen, dass Google ausdrücklich auf die Sprache in seinem hingewiesen hat Richtlinie für benutzergenerierte Inhalte und Richtlinie zu unangemessenen Inhalten wenn es seine Entscheidung über die soziale Wahrheit trifft. Diese Richtlinien umfassen die folgenden Anforderungen:
Apps, die UGC enthalten oder beinhalten, müssen:
- verlangen, dass Benutzer die Nutzungsbedingungen und/oder Benutzerrichtlinien der App akzeptieren, bevor Benutzer UGC erstellen oder hochladen können;
- anstößige Inhalte und Verhaltensweisen definieren (in einer Weise, die den Programmrichtlinien für Entwickler von Play entspricht) und diese in den Nutzungsbedingungen oder Benutzerrichtlinien der App verbieten;
- Implementieren Sie eine robuste, effektive und kontinuierliche UGC-Moderation, die angemessen und mit der Art der UGC, die von der App gehostet wird, vereinbar ist
und
- Hassreden – Wir gestatten keine Apps, die Gewalt fördern oder Hass gegen Einzelpersonen oder Gruppen aufgrund von Rasse oder ethnischer Herkunft, Religion, Behinderung, Alter, Nationalität, Veteranenstatus, sexueller Orientierung, Geschlecht, Geschlechtsidentität, Kaste oder Einwanderungsstatus aufstacheln , oder jedes andere Merkmal, das mit systemischer Diskriminierung oder Marginalisierung verbunden ist.
- Gewalt – Wir gestatten keine Apps, die grundlose Gewalt oder andere gefährliche Aktivitäten darstellen oder fördern.
- Terroristische Inhalte – Wir gestatten keine Apps mit Inhalten im Zusammenhang mit Terrorismus, wie z. B. Inhalten, die Terroranschläge fördern, zu Gewalt aufrufen oder Terroranschläge feiern.
Und während Benutzer möglicherweise solche Inhalte anfänglich posten können – kein System ist perfekt – müsste eine App mit benutzergenerierten Inhalten wie Truth Social (oder Facebook oder Twitter, was das betrifft) in der Lage sein, diese Beiträge rechtzeitig zu entfernen Mode, um als konform zu gelten.
In der Zwischenzeit ist die Truth Social-App nicht technisch von Google Play „gesperrt“ – Truth Social ist es tatsächlich noch heute zur Vorbestellung gelistet, wie Nunes auch betonte. Es könnte immer noch Änderungen vornehmen, um die Vorschriften einzuhalten, oder es könnte einen anderen Verbreitungsweg wählen.
Während Truth Social seinen Kurs für Android beschließt, ergab eine Untersuchung von Posts auf der iOS-Version von Truth Social eine Reihe von antisemitischen Inhalten, einschließlich Holocaustleugnung, sowie Posts, die das Erhängen von Beamten und anderen (einschließlich derer in der LGBTQ+-Community) fördern ), Posts, die für Bürgerkrieg plädieren, Posts zur Unterstützung der weißen Vorherrschaft und viele andere Kategorien, die scheinbar gegen Apples eigene Richtlinien verstoßen anstößiger Inhalt und UGC-Apps. Nur wenige waren hinter einem Moderationsschirm.
Es ist nicht klar, warum Apple nicht gegen Truth Social vorgegangen ist, da sich das Unternehmen nicht geäußert hat. Eine Möglichkeit ist, dass zum Zeitpunkt der ursprünglichen Einreichung von Truth Social im App Store von Apple die brandneue App nur sehr wenige Inhalte für ein App-Review-Team zum Analysieren hatte, also keine verletzenden Inhalte zu melden hatte. Truth Social verwendet Inhaltsfilterbildschirme auf iOS, um einige Beiträge hinter einer Klick-Warnung zu verbergen, aber Tech fand die Verwendung dieser Bildschirme willkürlich. Während die Inhaltsbildschirme einige Beiträge verdeckten, die scheinbar gegen die Regeln der App verstießen, verdeckten die Bildschirme auch viele Beiträge, die keine anstößigen Inhalte enthielten.
Unter der Annahme, dass Apple nichts unternimmt, wäre Truth Social nicht die erste App, die aus dem Pro-Trump-Online-Ökosystem herauswächst und im App Store ein Zuhause findet. Eine Reihe anderer Apps, die darauf abzielen, die politische Rechte mit hochtrabenden Versprechungen über die Abwesenheit von Zensur zu ködern, haben ebenfalls grünes Licht von Apple erhalten.
Die sozialen Netzwerke Gettr und Parler sowie die Video-Sharing-App Rumble buhlen mit ähnlichen Behauptungen der „Hände weg“-Moderation alle um ungefähr dasselbe Publikum und stehen im App Store zum Download bereit. Gettr und Rumble sind beide im Google Play Store erhältlich, aber Google entfernte Parler im Januar 2021 wegen Anstiftung zu Gewalt im Zusammenhang mit dem Angriff auf das Kapitol und hat es seitdem nicht wieder eingeführt.
Alle drei Apps haben Verbindungen zu Trump. Gettr wurde vom ehemaligen Trump-Berater Jason Miller gegründet, während Parler mit dem finanziellen Segen der großen Trump-Spenderin Rebekah Mercer startete, die nach dem Angriff auf das US-Kapitol am 6. Januar eine aktivere Rolle bei der Steuerung des Unternehmens übernahm. Ende letzten Jahres, Rumble hat einen Content-Deal abgeschlossen mit dem Medienunternehmen des ehemaligen Präsidenten Trump, Trump Media & Technology Group (TMTG), um Videoinhalte für Truth Social bereitzustellen.
Viele soziale Netzwerke waren in den Angriff vom 6. Januar verwickelt – sowohl soziale Mainstream-Netzwerke als auch Apps, die sich explizit an Trump-Anhänger richten. Auf Facebook strömten Wahlverschwörungstheoretiker zu populären Gruppen und organisierten sich offen um Hashtags wie #RiggedElection und #ElectionFraud. Parler-Benutzer spielten eine herausragende Rolle unter den Randalierern, die in das US-Kapitol stürmten, und Gizmodo identifizierte einige dieser Benutzer durch GPS-Metadaten, die ihren Videobeiträgen beigefügt waren
Heute ist Truth Social ein Zufluchtsort für politische Gruppen und Einzelpersonen, die von den Mainstream-Plattformen verdrängt wurden, weil sie befürchteten, sie könnten zu Gewalt aufrufen. Der ehemalige Präsident Trump, der die App gegründet hat, ist der prominenteste unter den plattformlosen Persönlichkeiten, die dort ein Geschäft eröffnen, aber Truth Social bietet auch an eine Zuflucht für QAnoneine sektenähnliche politische Verschwörungstheorie, die aufgrund ihrer Verbindung zu Gewalttaten ausdrücklich aus den sozialen Mainstream-Netzwerken wie Twitter, YouTube und Facebook ausgeschlossen wurde.
Allein in den letzten Jahren gehört dazu ein kalifornischer Vater, der sagte, er habe seine beiden Kinder mit einer Harpune erschossen aufgrund seines Glaubens an QAnon-Wahnvorstellungenein Mann aus New York, der einen tötete Mob-Boss und erschien mit einem „Q“ auf seiner Handfläche vor Gericht und verschiedene Vorfälle von inländischem Terrorismus die dem Angriff auf das Kapitol vorausgingen. Ende 2020 verschärften Facebook und YouTube beide ihre Plattformregeln, um QAnon-Inhalte zu bereinigen, nachdem sie jahrelang gedeihen ließen. Im Januar 2021 ging allein Twitter gegen ein Netzwerk von mehr als 70.000 Konten vor, die QAnon-bezogene Inhalte teilten, andere soziale Netzwerke folgten diesem Beispiel und nahmen die Bedrohung angesichts des Angriffs auf das Kapitol ernst.
EIN Bericht diese Woche veröffentlicht vom Medienwächter NewsGuard beschreibt auf Truth Social, wie die QAnon-Bewegung lebendig und gesund ist, wo eine Reihe verifizierter Konten weiterhin die Verschwörungstheorie fördern. Der frühere Präsident Trump, CEO von Truth Social und ehemaliger Repräsentant des Repräsentantenhauses Devin Nunes und Patrick Orlando, CEO des Geldgebers von Truth Social, Digital World Acquisition Corporation (DWAC), haben alle in den letzten Monaten für QAnon-Inhalte geworben.
Anfang dieser Woche startete der ehemalige Präsident Trump eine Blitz von Posts, die QAnon explizit bewerben, wobei er offen die Verschwörungstheorie zitiert, die mit Gewalt und innerstaatlichem Terrorismus verbunden ist, anstatt sich wie in der Vergangenheit auf eine verschlüsselte Sprache zu verlassen, um mit seinen Anhängern zu sprechen. Diese Eskalation, gepaart mit den laufenden Ermittlungen des Bundes zu Trumps mutmaßlichem Missbrauch von geheimen Informationen mit hohem Einsatz – eine Situation, die bereits zu Gewalt in der realen Welt geführt hat – erhöht den Einsatz für eine soziale App, in der der ehemalige Präsident in der Lage ist, offen mit seinen Anhängern in real zu kommunizieren. Zeit.
Dass Google eine präventive Maßnahme ergreifen würde, um Truth Social vom Play Store fernzuhalten, während Apple es bisher zulässt, ist eine interessante Änderung in den Richtlinien der beiden Technologieriesen in Bezug auf die Moderation und Überwachung von App-Stores. In der Vergangenheit hat Apple die App Store-Moderation stärker in die Hand genommen – das Aussortieren von Apps, die nicht den Standards entsprachen, schlecht gestaltet, zu erwachsen, zu spammig waren oder sogar nur in einer Grauzone operierten, von der Apple später entscheidet, dass sie jetzt durchgesetzt werden muss. Warum Apple in diesem speziellen Fall die Finger davon lässt, ist nicht klar, aber das Unternehmen wurde in den letzten Monaten wegen seiner interventionistischen Herangehensweise an den lukrativen App-Markt intensiv vom Bund geprüft.