Es entwickelt sich ein schrecklicher, kein guter, wirklich schlechter Monat für das Unternehmen, das früher als Twitter bekannt war. Elon Musks X wurde gerade von der Europäischen Union mit einer ersten Reihe von Beschwerden wegen mutmaßlicher Verstöße gegen den Digital Services Act des Blocks konfrontiert – ein Regelwerk zur Online-Governance und Inhaltsmoderation, das für bestätigte Verstöße Strafen von bis zu 6 % des weltweiten Jahresumsatzes vorsieht.
Aber das ist nicht die einzige Entscheidung auf höchster Ebene, die in letzter Zeit nicht zu Musks Gunsten ausgefallen ist. Tech hat erfahren, dass Anfang des Monats festgestellt wurde, dass X gegen eine Reihe von Bestimmungen des DSA und der Datenschutz-Grundverordnung (DSGVO) des Blocks verstoßen hat, einem europaweiten Datenschutzrahmen, bei dem Geldbußen von bis zu 4 % des Jahresumsatzes verhängt werden können. Dies geschah, nachdem eine Einzelperson Klage eingereicht hatte, nachdem X sein Konto gesperrt hatte.
X wird schon seit Langem des willkürlichen Shadowbannings beschuldigt – ein besonders krasser Vorwurf für eine Plattform, die behauptet, sich für freie Meinungsäußerung einzusetzen.
Doktorand Danny Mekic ergriff Maßnahmen, nachdem er im Oktober letzten Jahres entdeckt hatte, dass X Sichtbarkeitsbeschränkungen auf sein Konto angewendet hatte. Das Unternehmen hatte Beschränkungen angewendet, nachdem er einen Nachrichtenartikel über ein Rechtsgebiet geteilt hatte, das er recherchierte und das mit dem Vorschlag des Blocks zusammenhing, private Nachrichten von Bürgern auf Material zu sexuellem Kindesmissbrauch (CSAM) zu scannen. X teilte nicht mit, dass sein Konto gesperrt worden war – dies ist eines der Themen, auf die sich der Rechtsstreit konzentrierte.
Mekić bemerkte die Einschränkungen seines Kontos erst, als Dritte ihn kontaktierten und ihm mitteilten, dass sie seine Antworten nicht mehr sehen und sein Konto nicht mehr in den Suchvorschlägen finden könnten.
Nachdem seine Versuche, X direkt zu kontaktieren, um das Problem zu beheben, erfolglos blieben, reichte Mekić im Rahmen des EU-Verfahrens für geringfügige Forderungen eine Reihe von Klagen gegen X in den Niederlanden ein. Er behauptete, das Unternehmen habe gegen zentrale Elemente des DSA verstoßen. So habe es ihm beispielsweise keinen Ansprechpartner (Artikel 12) zur Bearbeitung seiner Beschwerden zur Verfügung gestellt und keine Begründung (Artikel 17) für die Beschränkungen seines Kontos geliefert.
Mekić ist Premium-Abonnent von X und verklagte das Unternehmen daher ebenfalls wegen Vertragsbruch.
Darüber hinaus ersuchte Mekić, nachdem er erkannt hatte, dass er einem Shadowbann ausgesetzt war, X um Informationen darüber, wie seine persönlichen Daten verarbeitet wurden – und berief sich dabei auf die DSGVO, um diese Datenzugriffsanfragen zu stellen. Die Verordnung gibt Menschen in der EU das Recht, eine Kopie der über sie gespeicherten Informationen anzufordern. Als X also die angeforderten persönlichen Daten nicht bereitstellte, hatte er einen Grund für seinen zweiten Fall: Klage wegen Verstoßes gegen die Datenschutzbestimmungen des Blocks einzureichen.
Im Fall DSA entschied der Gericht fand X‘ irische Tochtergesellschaft (die tatsächlich immer noch Twitter heißt) bezichtigte sie der Vertragsverletzung und wurde dazu verurteilt, Mekić eine Entschädigung für den Zeitraum zu zahlen, in dem ihm der von ihm bezahlte Dienst vorenthalten blieb (nur 1,87 Dollar – aber das Prinzip ist unbezahlbar).
Das Gericht ordnete außerdem an, dass X Mekić eine Kontaktperson benennen müsse, damit er seine Beschwerden innerhalb von zwei Wochen an das Unternehmen weiterleiten könne. Andernfalls müsse er mit einer Geldstrafe von 100 Euro pro Tag rechnen.
Auch mit der Beschwerde nach Artikel 17 des DSA hatte Mekić Erfolg, da das Gericht zustimmte, dass X ihm eine Begründung hätte zusenden müssen, als es seinen Account gesperrt hatte. Stattdessen musste er das Unternehmen verklagen und erfuhr, dass ein automatisiertes System seinen Account gesperrt hatte, nachdem er einen Nachrichtenartikel geteilt hatte.
„Darüber freue ich mich“, sagte Mekić gegenüber Tech. „Es gab eine große Debatte im Gerichtssaal. Twitter sagte, der DSA sei nicht verhältnismäßig und Shadowbans kompletter Accounts fielen nicht unter die DSA-Verpflichtungen.“
Darüber hinaus befand das Gericht, dass die Allgemeinen Geschäftsbedingungen von X gegen die EU-Richtlinie über missbräuchliche Klauseln in Verbraucherverträgen verstoßen.
Im DSGVO-Fall, über den das Gericht am 4. Juli entschied, konnte Mekić eine weitere Reihe von Erfolgen verbuchen. In diesem Fall ging es um die oben erwähnten Datenzugriffsrechte, aber auch um Artikel 22 (automatisierte Entscheidungsfindung), der besagt, dass betroffene Personen keinen Entscheidungen unterworfen werden sollten, die ausschließlich auf automatisierter Verarbeitung beruhen und rechtliche oder erhebliche Auswirkungen haben.
Das Gericht stimmte zu, dass die Auswirkungen des Shadowbans von X auf Mekić erheblich waren, da es seine berufliche Sichtbarkeit und möglicherweise seine Beschäftigungsaussichten beeinträchtigte. Das Gericht ordnete daher an, dass X ihm innerhalb eines Monats aussagekräftige Informationen über die automatisierte Entscheidungsfindung zur Verfügung stellen muss, wie es das Gesetz vorschreibt, sowie die anderen personenbezogenen Daten, die X bisher zurückgehalten hat und die Mekić im Rahmen seiner DSGVO-Datenzugriffsrechte angefordert hatte.
Verstößt X weiterhin gegen diese Datenschutzbestimmungen, drohen dem Unternehmen Geldbußen von bis zu 4.000 Euro pro Tag.
X wurde außerdem dazu verurteilt, Mekićs Kosten in beiden Verfahren zu tragen.
Obwohl die beiden Urteile nur einzelne Beschwerden betreffen, könnten sie weitreichendere Auswirkungen auf die Durchsetzung des DSA und der DSGVO gegen X haben. Ersteres steht – wie wir heute gesehen haben – erst am Anfang, da X mit einem ersten Schritt vorläufiger Feststellungen zu Verstößen konfrontiert wird. Doch Datenschutzaktivisten warnen schon seit Jahren davor, dass die DSGVO gegenüber großen Plattformen nicht ausreichend durchgesetzt wird. Und die strategische Rolle, die grundlegende Datenschutzbestimmungen bei der Rechenschaftspflicht von Plattformen spielen sollten, bleibt weitaus schwächer, als sie sein könnte und sollte.
„Die Vorwürfe waren ein letzter Versuch, meinen ungerechtfertigten Shadowban aufzuklären und ihn entfernen zu lassen“, sagte Mekić gegenüber Tech. „Und natürlich hoffe ich, dass Twitter seine gesetzlichen Transparenzpflichten und die niedrigschwellige Kontaktaufnahme noch besser einhält, um noch besser zu werden.“
„Die Europäische Kommission scheint sehr beschäftigt mit Untersuchungen im Rahmen des DSA zu sein. Bisher scheint sich die Kommission in Bezug auf Twitter hauptsächlich auf eine strengere Inhaltsmoderation zu konzentrieren. Mein Appell an die Kommission ist, sich auch der Kehrseite bewusst zu sein: Plattformen sollten bei ihren intransparenten Praktiken zur Inhaltsmoderation nicht über die Stränge schlagen“, sagte er uns auch.
„Wenn Sie mich fragen, gibt es eine einfachere Lösung: nämlich die Algorithmen in sozialen Medien wie Twitter einzuschränken, die darauf ausgelegt sind, Engagement und Umsatz zu maximieren, und die chronologischen Zeitleisten aus der Blütezeit von Twitter und anderen sozialen Medienplattformen wieder zum Standard zu machen.“
Während die EU selbst eine Schlüsselrolle bei der Durchsetzung der DSA-Regeln auf X spielt, da X als eine sehr große Online-Plattform (VLOP) eingestuft wird, obliegt die Einhaltung der umfassenderen allgemeinen Regeln einer Aufsichtsbehörde auf Ebene der europäischen Mitgliedstaaten: der irischen Medienregulierungsbehörde Coimisiún na Meán.
Die Durchsetzung der wichtigsten Datenschutzbestimmungen der EU für Twitter/X obliegt in der Regel einer anderen irischen Behörde, der Data Protection Commission (DPC), der regelmäßig vorgeworfen wird, bei der Untersuchung von Beschwerden über Big Tech zu trödeln.
Auf die Frage nach Informationen zur Durchsetzung verschiedener langjähriger DSGVO-Beschwerden gegen X sagte ein Sprecher des DPC, dass zum Zeitpunkt der Veröffentlichung keine Antwort vorliegen könne.
Dass Einzelpersonen kleine Klagen gegen große Plattformen einreichen, um diese zur Einhaltung des EU-weiten Rechts zu bewegen, ist eindeutig nicht optimal. Eigentlich sollte es ein umfassendes Regulierungssystem geben, das die Einhaltung der Gesetze gewährleisten soll.
„Nebenbei bemerkt habe ich erfahren, wie viel Zeit und Mühe ein Prozess vor Gericht kostet“, sagte Mekić. „Trotz der Tatsache, dass man das im Prinzip auch ohne Anwalt machen kann. Trotzdem verbringt man fast ein Jahr damit, während die Gegenpartei es an eine Batterie von Anwälten mit nahezu unbegrenzten Budgets auslagern und es in der Zwischenzeit einfach ignorieren kann: Tatsächlich hatte ich nie direkten Kontakt mit jemandem von Twitter, sie kommunizieren nur über Anwälte mit mir.“
Auf die Frage, ob er hoffe, dass der Ausgang seiner beiden Fälle dem willkürlichen Shadowbanning von X für alle EU-Nutzer ein Ende bereiten werde, sagte Mekić, er glaube nicht, dass sein eigener Erfolg ausreichen werde – dafür seien regulatorische Maßnahmen erforderlich.
„Ich hoffe es, aber ich fürchte, es ist nicht so“, sagte er. „Die kommerziellen Motive hinter Shadowbans werden kaum thematisiert. Wenn ein Benutzer gegen eine Regel verstößt, kann man sein Konto vorübergehend sperren. Das ist transparent. Aber dadurch gehen auch die Werbeeinnahmen des Benutzers für die Plattform verloren. Shadowbans sind eine Lösung dafür: Der Benutzer bekommt nichts davon mit und kann weiterhin mit der Plattform interagieren und Werbeeinnahmen für sie generieren.“
„Es wäre eine mutige Entscheidung der Social-Media-Plattformen, keine Shadowbans mehr anzuwenden und den Nutzern nur noch transparente, anfechtbare Beschränkungen aufzuerlegen. Aber das wird vermutlich zu Einnahmeverlusten führen. Ich hoffe, dass Twitter anderen Plattformen ein gutes Beispiel gibt und die Nutzer transparent über Kontobeschränkungen informiert, wie es der DSA verlangt. Dazu müssen die Plattformen ihre kommerziellen Absichten in den Hintergrund stellen“, sagte Mekić.
„Es überrascht mich, dass die Kommission nichts über die groß angelegten Shadowbanning-Praktiken herausgefunden hat, über die die Nutzer keine Benachrichtigungen erhalten“, fügte er hinzu. „Das passiert täglich im großen Stil und ist leichter zu beweisen als das, worauf sie sich jetzt konzentrieren.“
X wurde für eine Stellungnahme zu den Urteilen kontaktiert.