Dank Algorithmen können Social-Media-Plattformen Inhalte generieren, die sich anfühlen, als wären sie nur für Sie gemacht. Und obwohl Sie vielleicht anerkennen, dass die Technologie die Inhalte liefert, haben Sie manchmal das Gefühl, dass eine höhere Macht im Spiel ist.
Conspirituality ist ein Glaubenssystem, das spirituelle Überzeugungen des New Age und Verschwörungstheorien vermischt. Algorithmische Conspirituality kombiniert algorithmusgesteuerte Inhalte mit mystischem Denken und greift dabei auf konspirative und spirituelle Ideen zurück, die unter jungen Menschen auf TikTok weit verbreitet sind, so Kelley Cotter, Assistenzprofessorin, und Ankolika De, eine Doktorandin in Informatik – beide am Penn State College of Information Sciences and Technology.
Penn State News sprach mit Cotter und De darüber, wie und warum TikTok-Benutzer algorithmische Empfehlungen als eine Art göttliche Fügung interpretieren.
Was hat Sie dazu veranlasst, sich mit der Idee einer algorithmischen Verschwörung auseinanderzusetzen?
Cotter: Das Projekt begann mit einem Gruppenchat unter Forschungsmitarbeitern, die versuchten, TikTok-Videos zu verstehen, die den Rahmen „Wenn du das siehst, ist es für dich bestimmt“ verwendeten. Das brachte uns dazu, einen Papier Theorien zur Entstehung dieser einzigartigen Inhaltsart. Von dort aus wollten wir wissen, wie Benutzer diese Art von Inhalten interpretieren, welche Auswirkungen sie haben und welche Motivationen diejenigen haben, die sie erstellen.
Wie sieht algorithmische Verschwörung aus?
De: TikToks For You Page (FYP) und der Algorithmus, der sie definiert, wurden als unheimlich und unerklärlich zielgenau bezeichnet. Die Genauigkeit der Empfehlungen des Algorithmus erzeugt ein „richtige Zeit, richtiger Ort“-Gefühl und inspiriert ein Format, das Inhalte auf außergewöhnliche Weise auf Einzelpersonen zuschneidet.
Diese Präzision kann ein Gefühl von Serendipität erzeugen, wodurch Inhalte einzigartig relevant erscheinen und Benutzer die Algorithmen, die TikTok antreiben, als mit einer höheren Macht verbunden wahrnehmen, selbst wenn sie ein rationales Verständnis von Algorithmen haben.
Videos auf TikTok mit Untertiteln wie „Diese Nachricht ist für dich bestimmt“ oder „Der Algorithmus fordert dich auf, dir das anzusehen“ fordern die Zuschauer auf, den Algorithmus als göttlich zu betrachten. Diese und ähnliche Sätze schaffen ein Format, das wir als Manifestation algorithmischer Verschwörung identifiziert haben.
Es wird auch ausdrücklich darauf hingewiesen, dass den Videos allgemeine Attribute fehlen, die der Algorithmus normalerweise als Daten für Empfehlungen verwendet. „Dieses Video hat keine Hashtags. Wenn Sie also dies sehen …“ beispielsweise verstärkt die Vorstellung, dass etwas Göttliches den Algorithmus unabhängig steuert.
Cotter: Wir dachten, dass algorithmische Verschwörungstheorien dann auftreten, wenn Social-Media-Nutzer algorithmische Empfehlungen als kosmisch bedeutsam interpretieren und so zu aufschlussreichen Selbsterkenntnissen führen. Es bezieht sich auch auf eine Art Aufhänger, den Content-Ersteller manchmal verwenden und der diese Art der Interpretation explizit einlädt.
In ein weiteres Papier– bei der wir mit Shaheen Kanthawala, Assistenzprofessor, und Amy Ritchart, Doktorandin, beide von der University of Alabama, zusammengearbeitet haben – haben wir auch argumentiert, dass algorithmische Verschwörungstheorien Social-Media-Inhalte überzeugender machen, indem sie den Eindruck erwecken, dass die Benutzer mit bestimmten Gedanken oder Verhaltensweisen nicht nur nicht allein sind, sondern dass diese Gedanken und Verhaltensweisen auch gefördert werden.
Was bringt einen Benutzer dazu, zu entscheiden, dass es die Spiritualität ist – und nicht nur die Technologie – die personalisierte Inhalte liefert?
Cotter: Kurz gesagt, es ist ein Vertrauensvorschuss. Die Teilnehmer unserer Studie haben durchweg ein Bewusstsein für die zugrunde liegende Technologie gezeigt, die die zufälligen Erfahrungen mit TikToks FYP-Algorithmus ermöglicht. Wenn sie jedoch zu einer göttlichen Interpretation tendieren, neigen sie dazu, Erfahrungen zu beschreiben, bei denen sie eine außergewöhnlich gut zugeschnittene Empfehlung erhielten, sich in einem erhöhten Gefühlszustand befanden und/oder auf bereits bestehende spirituelle Überzeugungen zurückgriffen.
Sind die Algorithmen, die FYP vorantreiben, einzigartig für TikTok?
De: Alle Social-Media-Plattformen, die auf Empfehlungsalgorithmen basieren, legen nicht offen, wie diese Algorithmen wirklich funktionieren. Diese Vertraulichkeit ist für ihre Geschäftsmodelle von grundlegender Bedeutung – sie ist ihr Geheimrezept für die Monetarisierung durch gezielte Werbung, Engagement und Benutzerbindung. Und obwohl dies verständlich ist, zwingt es die Plattformbenutzer dazu, Theorien aufzustellen und über ihre Erfahrungen mit dem Algorithmus zu spekulieren.
Cotter: In vielerlei Hinsicht unterscheidet sich der FYP-Algorithmus von TikTok nicht von anderen Social-Media-Algorithmen. Allerdings ist der FYP-Algorithmus durch die stärkere Abhängigkeit von algorithmusgesteuerter Personalisierung – im Gegensatz zu benutzergesteuerter Personalisierung, etwa durch das Folgen von Accounts – für das TikTok-Erlebnis zentraler geworden. Darüber hinaus trägt das reibungslose Benutzererlebnis beim Durchblättern und Interagieren mit Videos dazu bei, den Prozess der Schlussfolgerung von Benutzerinteressen zu optimieren.
Können Benutzer ihr FYP gezielt personalisieren und kontrollieren?
De: Insbesondere bei TikTok macht die hohe Genauigkeit des Algorithmus in Kombination mit seiner Unerkennbarkeit und Unvorhersehbarkeit diesen Prozess sehr schwierig. Aber während Benutzer nicht garantieren können, dass bestimmte Aktionen ihren FYP personalisieren, gibt es Volkstheorien und Spekulationen darüber, welche Praktiken dazu beitragen, den FYP zu beeinflussen – wie das Liken, Teilen oder Kommentieren von Inhalten, die denen ähneln, die sie als Empfehlungen erhalten möchten –, die Benutzer verwenden, um ihre Erfahrungen mit Algorithmen zu rationalisieren.
Algorithmische Verschwörungstheorie ist der Versuch der Nutzer, die Fähigkeit des Algorithmus, ihre existentiellen Bedürfnisse zu erkennen, zu verstehen. Verstehen die Nutzer also, dass Wissenschaft dahinter steckt, glauben aber, dass die Technologie durch etwas Außerweltlicheres ergänzt wird?
Cotter: Jeder, den wir interviewt haben, hat bis zu einem gewissen Grad verstanden, dass der FYP-Algorithmus ein Rechenprozess ist, eine Technologie, die darauf ausgelegt ist, die Kuratierung von Inhalten für sie zu personalisieren. Im Allgemeinen haben die meisten durchschnittlichen Benutzer keine komplexen technischen Kenntnisse über die Wissenschaft hinter den Algorithmen, aber sie haben ein grundlegendes Verständnis für die Funktionsweise, weil sie algorithmusgesteuerte Social-Media-Sites nutzen und Rückschlüsse aus ihren Beobachtungen sowie aus dem ziehen, was sie von Inhaltserstellern und den Medien erfahren.
Und dennoch haben wir in unserer Studie festgestellt, dass manche Leute immer noch mehr in ihre Erfahrungen mit dem TikTok-FYP-Algorithmus hineininterpretierten. Manche Leute schienen den Algorithmus als Kanal einer höheren Macht zu sehen; andere Leute konnten den Algorithmus nicht klar von einer höheren Macht trennen, um die Quelle einer wahrgenommenen göttlichen Intervention zu identifizieren.
Erzählen Sie uns etwas über das Konzept der reflexiven Ambivalenz, das Sie in Ihrer Arbeit diskutiert haben.
Cotter: Reflexive Ambivalenz bedeutet, dass Nutzer die Algorithmen sozialer Medien gleichzeitig als von Menschen geschaffene Technologien verstehen und sie gleichzeitig als göttliche Kraft interpretieren. Ich sehe das ähnlich wie die Art und Weise, wie sich Menschen beiläufig mit Astrologie, Horoskopen oder sogar den Kettenbriefen beschäftigen, die dem Internet vorausgingen. Die meisten Leute würden Ihnen sagen, dass sie eigentlich nicht an diese Dinge glauben, aber oft fällt es ihnen schwer, das Gefühl loszuwerden, dass es vielleicht wahr ist.
Haben Sie letztlich festgestellt, dass die Benutzer an eine algorithmische Verschwörung glauben wollen?
Cotter: Interessanterweise wollten die Leute, die wir interviewt haben, im Allgemeinen nicht an algorithmische Verschwörungstheorien glauben. Wie ein Benutzer es ausdrückte, hielten sie die Idee für „albern“ und etwas, an das sie „nicht“ glauben sollten. Einige Teilnehmer beschrieben jedoch Momente, in denen sie eine besonders gut getimte und gut zugeschnittene algorithmische Empfehlung als göttliche Intervention lasen, die ihnen Hoffnung einflößte oder ihre Gefühle oder Überzeugungen bestätigte, wenn sie sie brauchten. In solchen Momenten schien es, als wollten sie tatsächlich glauben.