Das Vereinigte Königreich beschleunigt die Anwendung von Befugnissen, die dazu führen könnten, dass Technologie-CEOs ins Gefängnis gesteckt werden, wenn ihre Unternehmen die neuen sicherheitsorientierten Internet-Content-Gesetze nicht einhalten, bestätigte die Regierung heute.
Die jüngsten Überarbeitungen des Gesetzesentwurfs beinhalten einen radikal verkürzten Zeitrahmen für die Anwendung strafrechtlicher Haftungsbefugnisse gegen leitende technische Führungskräfte, die bei Informationsanfragen der Regulierungsbehörde nicht kooperieren – auf nur noch zwei Monate nach Verabschiedung des Gesetzes. (Und da die Regierung im Unterhaus über eine große Mehrheit verfügt, könnte die kommende Online-Sicherheitsverordnung – die bereits seit Jahren in Vorbereitung ist – dieses Jahr Gesetz werden.)
Während der im Mai 2021 veröffentlichte Gesetzentwurf bereits eine Reihe von Überarbeitungen erfahren hat – und heute weitere angekündigt werden –, ist der Kernplan ziemlich konstant geblieben: Die Regierung führt einen speziellen Rahmen ein, um zu kontrollieren, wie Social-Media-Unternehmen und andere Inhalte -fokussierte Plattformen müssen auf bestimmte Arten von problematischen Inhalten reagieren (in einigen Fällen nicht nur auf illegale Inhalte), was ein Regime von Verhaltenskodizes beinhalten wird, die von der Aufsichtsbehörde für Medien und Kommunikation, Ofcom, in einer stark erweiterten Rolle und mit erheblichen Befugnissen überwacht werden Regelverstöße mit bis zu 10 % ihres weltweiten Jahresumsatzes zu bestrafen.
Wie der Name des Gesetzentwurfs schon sagt, konzentriert sich die Regierung auf ein sehr breites „De-Risiko“ von Internetplattformen – was bedeutet, dass der Gesetzentwurf nicht nur darauf abzielt, explizit illegale Dinge (wie Terrorismus oder CSAM) zu bekämpfen, sondern auch darauf abzielt, Regeln dafür festzulegen, wie dies geschehen soll Die größten Internetplattformen müssen sich mit „legalen, aber schädlichen“ Online-Inhalten wie Trolling befassen.
Vor allem Aktivisten für Kindersicherheit drängen seit Jahren darauf, dass Technologiefirmen gezwungen werden, giftige Inhalte zu entfernen.
Die Regierung hat sich dieser populistischen Sache nach und nach und dann schnell angenommen – und erklärt, ihr erklärtes Ziel für die Gesetzesvorlage sei es, Großbritannien zum sichersten Ort der Welt zu machen, um online zu gehen, und lautstark eine Kinderschutztrommel zu schlagen.
Aber es hat auch eingeräumt, dass es enorme Herausforderungen für eine effektive Regulierung einer so weitläufigen Arena gibt.
Der überarbeitete Gesetzesentwurf wird am Donnerstag im Parlament eingebracht und damit eine breitere, parteiübergreifende Debatte über einen nach wie vor kontroversen, aber populistischen Plan zur Einführung einer „Sorgfaltspflicht“ für Social-Media-Unternehmen und andere Plattformen mit nutzergenerierten Inhalten eingeleitet. Wenn auch eines, das von den britischen Gesetzgebern breite (aber nicht universelle) Unterstützung genießt.
Digitalministerin Nadine Dorries kommentierte die Einführung des Gesetzentwurfs im Parlament in einer Erklärung:
„Das Internet hat unser Leben zum Besseren verändert. Es hat uns verbunden und uns gestärkt. Aber auf der anderen Seite wurden Technologiefirmen nicht zur Rechenschaft gezogen, wenn Schaden, Missbrauch und kriminelles Verhalten auf ihren Plattformen wüteten. Stattdessen müssen sie ihre eigenen Hausaufgaben korrigieren.
„Wir denken nicht eine Sekunde darüber nach, wenn wir unsere Sicherheitsgurte anlegen, um uns während der Fahrt zu schützen. Angesichts aller Risiken im Internet ist es nur vernünftig, dass wir für das digitale Zeitalter einen ähnlichen Grundschutz sicherstellen. Wenn wir nicht handeln, riskieren wir, das Wohlergehen und die Unschuld unzähliger Generationen von Kindern der Macht ungeprüfter Algorithmen zu opfern.
„Seit ich den Job angetreten habe, habe ich Menschen in Politik, Gesellschaft und Industrie zugehört und den Gesetzentwurf gestärkt, damit wir unser zentrales Ziel erreichen können: Großbritannien zum sichersten Ort zu machen, um online zu gehen.“
Es ist fair zu sagen, dass es im britischen Parlament breite Unterstützung dafür gibt, Tech-Plattformen in Bezug auf Inhaltsregeln die Peitsche zu geben (die Abgeordneten haben sicherlich nicht vergessen, wie der Gründer von Facebook frühere Inhaltsfragen brüskiert hat).
Auch wenn es Meinungsverschiedenheiten und Streitigkeiten darüber gibt, wie man das am besten macht. Es wird also – zumindest – interessant sein zu sehen, wie die Parlamentarier auf den Entwurf reagieren, wenn er in den kommenden Monaten den legislativen Prüfungsprozess durchläuft.
Vieles in und um den britischen Online-Sicherheitsvorschlag bleibt jedoch noch unklar – nicht zuletzt, wie gut (oder schlecht) das Regime in der Praxis funktionieren wird. Und was seine vielfältigen Anforderungen für große und kleine digitale Unternehmen im Geltungsbereich bedeuten werden.
Die Einzelheiten darüber, was genau in den unschärferen „legalen, aber schädlichen“ Inhaltsbereich fallen wird, werden beispielsweise in sekundären Rechtsvorschriften festgelegt, die von den Abgeordneten vereinbart werden müssen – letzteres ist eine weitere neue Bestimmung, die die Regierung heute angekündigt hat und argumentiert, dass dies vermieden werden wird das Risiko, dass Technologiegiganten de facto zur Sprachpolizei werden, was eine frühe Kritik an dem Plan war.
Es sieht aus wie ein Versuch, weiteres Kontroversenpotential herunterzuspielen, das der Regierung Pressemitteilung formuliert die Ziele von Bill in sehr einfachen Begriffen – es soll sicherstellen, dass Plattformen „ihre angegebenen Geschäftsbedingungen einhalten“ (und wer könnte dem widersprechen?) – und argumentiert, dass dies lediglich „ausgewogene und verhältnismäßige“ Maßnahmen sind (und Befugnisse?), die Technologiegiganten endlich dazu zwingen werden, aufzuhorchen, aufmerksam zu werden und illegale und missbräuchliche Äußerungen effektiv zu bekämpfen. (Oder sonst könnte ihr CEO im Gefängnis landen …!)
Es überrascht nicht, dass Gruppen für digitale Rechte diese implizit widersprüchliche Botschaft schnell aufgegriffen haben – und Warnungen wiederholt haben, dass die Gesetzgebung einen massiv abschreckenden Angriff auf die Meinungsfreiheit darstellt. Die Open Rights Group (ORG) verschwendete keine Zeit und verglich die Gefängnisdrohung für Social-Media-Manager mit der Macht, die Wladimir Putin in Russland ausübt.
„Befugnisse zur Inhaftierung von Social-Media-Managern sollten mit Putins ähnlichen Drohungen vor einigen Wochen verglichen werden“, sagte der Geschäftsführer von ORG, Jim Killock, in einer Erklärung, die auf die jüngsten Überarbeitungen von DCMS reagierte.
„Die Tatsache, dass der Gesetzentwurf seinen Inhalt nach vier Jahren der Debatte ständig ändert, sollte jedem sagen, dass es ein Chaos ist und in der Praxis wahrscheinlich eine bittere Enttäuschung sein wird“, fügte er hinzu.
„Der Gesetzentwurf enthält immer noch die Befugnisse der Minister, zu entscheiden, welche legalen Inhalte Plattformen zu entfernen versuchen müssen. Parlamentarische Abstempelungen für Ministerialmitteilungen werden immer noch die Unabhängigkeit der Regulierungsbehörde gefährden. Es würde eine staatlich sanktionierte Zensur legaler Inhalte bedeuten.“
Die Reaktion der Regierung auf die Kritik an den möglichen Auswirkungen auf die Meinungsfreiheit umfasst die Forderung nach Forderungen in der Gesetzesvorlage für Social-Media-Unternehmen zum „Schutz des Journalismus“ und der „demokratischen politischen Debatte“, wie es in ihrer Pressemitteilung heißt – obwohl es eher weniger klar ist, wie (bzw ob) Plattformen das tatsächlich tun werden/können.
Stattdessen wiederholt DCMS, dass „Nachrichteninhalte“ (hmm, deckt das jeden online ab, der Ansprüche Journalist zu sein?) wurde herausgeschnitten – mit der Betonung, dass diese spezielle Definitionserweiterungskategorie „völlig von jeglicher Regulierung im Rahmen des Gesetzentwurfs ausgenommen“ ist. (Also, ‚Compliance‘ klingt schon höllisch chaotisch*.)
Auf das schlagzeilenträchtige strafrechtliche Haftungsrisiko für hochrangige Tech-Führungskräfte – wahrscheinlich eine populistische Maßnahme, von der die Regierung wahrscheinlich hofft, dass sie dazu beiträgt, die öffentliche Unterstützung zu gewinnen, um widersprechende Expertenstimmen wie die von ORG zu übertönen – hatte die Staatssekretärin für Digital, Nadine Dorries, bereits signalisiert während der parlamentarischen Ausschussanhörungen im letzten Herbst, dass sie die Anwendung der strafrechtlichen Verantwortlichkeitsbefugnisse beschleunigen wollte. (Denkwürdigerweise verschwendete sie keine Zeit damit, Metas leitenden Angestellten mit einer schnelleren Gefängnisstrafe zu drohen – und sagte, sie sollten sich auf die Sicherheit konzentrieren und das Metaversum vergessen.)
Der ursprüngliche Entwurf des Gesetzentwurfs, der vor Dorries Amtszeit als Leiter des digitalen Briefings lag, hatte die Macht um mindestens zwei Jahre verschoben. Dieser Zeitrahmen wurde jedoch von Aktivisten für Kindersicherheit kritisiert – die warnten, dass das Gesetz ohne echte Zähne wirkungslos wäre, da Plattformen es einfach ignorieren könnten. (Und ein dringendes Risiko einer Gefängnisstrafe für hochrangige technische Führungskräfte wie Nick Clegg von Meta, ein ehemaliger stellvertretender Premierminister des Vereinigten Königreichs, könnte sicherlich bestimmte Köpfe der C-Suite auf die Einhaltung von Vorschriften konzentrieren.)
Die schnellere Gefängnisstrafe ist auch keineswegs die erste wesentliche Überarbeitung des Gesetzentwurfs. Wie Killock betont, gab es zu diesem Zeitpunkt ein ganzes Bankett von „Revisionen“ – was sich in den letzten Wochen darin manifestierte, dass das Ministerium für Digital, Kultur, Medien und Sport (DCMS) einen laufenden Tropf von Ankündigungen veröffentlichte, dass es weiter geht Erweiterung des Geltungsbereichs des Gesetzentwurfs und Verstärkung seiner Macht.
Dazu gehörte die Einbeziehung von Betrugsanzeigen und Porno-Websites (in letzterem Fall, um sie zu zwingen, Technologien zur Altersüberprüfung zu verwenden); erweitern die Liste der kriminellen Inhalte auf der Vorderseite der Rechnung hinzugefügt und Einführung neuer Straftaten — einschließlich Cyberflashen; und Festlegung von Maßnahmen zur Bekämpfung von anonymem Trolling, indem man sich auf Plattformen stützt, um die Reichweite zu unterdrücken.
Zwei parlamentarische Ausschüsse, die den ursprünglichen Vorschlag letztes Jahr geprüft haben, warnten vor schwerwiegenden Mängeln – und drängten auf eine Reihe von Änderungen – Empfehlungen, die DCMS nach eigenen Angaben bei diesen Überarbeitungen berücksichtigt hat.
Heute gibt es noch mehr Extras: Darunter mehr neue (informationsbezogene) Straftaten, die dem Gesetzesentwurf hinzugefügt werden, um die leitenden Manager von betroffenen Unternehmen strafrechtlich für die Vernichtung von Beweismitteln haftbar zu machen; Nichtteilnahme oder Angabe falscher Informationen bei Interviews mit Ofcom; und für die Behinderung der Aufsichtsbehörde beim Betreten der Firmenbüros.
DCMS stellt fest, dass die Verletzung dieser Straftaten dazu führen könnte, dass hochrangige Führungskräfte großer Plattformen zu bis zu zwei Jahren Gefängnis oder Geldstrafe verurteilt werden.
Eine weitere Ergänzung, die sich auf das bezieht, was die Regierung als „proaktive Technologie“ bezeichnet – auch bekannt als Tools zur Inhaltsmoderation, Benutzerprofilerstellung und Verhaltensidentifizierung, die „Benutzer schützen“ sollen – kommt in Form von Extra Es werden Bestimmungen hinzugefügt, die es Ofcom ermöglichen, „Erwartungen für den Einsatz dieser proaktiven Technologien in Verhaltenskodizes festzulegen und Unternehmen zu zwingen, bessere und effektivere Tools zu verwenden, falls dies erforderlich sein sollte“.
„Unternehmen müssen nachweisen, dass sie die richtigen Tools verwenden, um Schäden zu begegnen, dass sie transparent sind und dass alle von ihnen entwickelten Technologien die von der Regulierungsbehörde geforderten Genauigkeits- und Wirksamkeitsstandards erfüllen“, fügt sie hinzu und stellt auch fest, dass Ofcom keine Empfehlung abgeben kann Diese Tools werden auf private Nachrichten oder legale, aber schädliche Inhalte angewendet.
Plattformen müssen nun auch CSAM-Inhalte, die sie auf ihren Plattformen entdecken, direkt an die National Crime Agency melden, eine weitere Änderung, die ein bestehendes freiwilliges Meldesystem ersetzt und laut DCMS „das Engagement der Regierung widerspiegelt, dieses schreckliche Verbrechen zu bekämpfen“.
„Meldungen an die National Crime Agency müssen eine Reihe klarer Standards erfüllen, um sicherzustellen, dass die Strafverfolgungsbehörden die qualitativ hochwertigen Informationen erhalten, die sie zum Schutz von Kindern, zur Verfolgung von Straftätern und zur Begrenzung lebenslanger erneuter Viktimisierung benötigen, indem sie die ständige Wiederverbreitung illegaler Inhalte verhindern“, heißt es präzisiert und fügt hinzu: „In den Geltungsbereich fallende Unternehmen müssen bestehende Berichtspflichten außerhalb des Vereinigten Königreichs nachweisen, um von dieser Anforderung ausgenommen zu werden, wodurch Doppelarbeit der Unternehmen vermieden wird.“
Nachdem so viele Überarbeitungen an dem vorgenommen wurden, was die Regierung gerne als „weltweit führende“ Gesetzgebung bezeichnet, noch bevor die formelle parlamentarische Debatte beginnt, sind Anschuldigungen, dass der Vorschlag sowohl übertrieben als auch unausgegoren ist, schwer zu erschüttern.
Abgeordnete können auch einen Mangel an Kohärenz erkennen, der in populistische Überzeugungen gekleidet ist, und eine Gelegenheit ausspionieren, sich zu behaupten und darauf zu drängen, dass auch ihre eigenen persönlichen Lieblingshasser in die Mischung einfließen (wie ein ehemaliger Staatsminister gewarnt hat) – mit dem Risiko, dass a born lumpy bill wird noch unhandlicher und mit unmöglichen Fragen beladen.
*Eine Zeile in der eigenen Pressemitteilung von DCMS scheint mindestens ein drohendes Durcheinander einzuräumen – und/oder die Notwendigkeit, noch mehr Überarbeitungen/Maßnahmen hinzuzufügen – und stellt fest: „Die Minister werden auch weiterhin überlegen, wie sie sicherstellen können, dass Plattformen keine Inhalte entfernen von anerkannten Medien.”