Ein umstrittener Gesetzesvorschlag der Europäischen Union zur Überprüfung privater Nachrichten von Bürgern, um Material über sexuellen Kindesmissbrauch (CSAM) aufzuspüren, stellt ein Risiko für die Zukunft der Internetsicherheit dar, warnte Meredith Whittaker in einem öffentlicher Blogbeitrag Montag. Sie ist Präsidentin der gemeinnützigen Stiftung hinter der Ende-zu-Ende-verschlüsselten (E2EE) Messaging-App Signal.
„Es gibt keine Möglichkeit, solche Vorschläge im Kontext einer Ende-zu-Ende-verschlüsselten Kommunikation umzusetzen, ohne die Verschlüsselung grundsätzlich zu untergraben und eine gefährliche Schwachstelle in der Kerninfrastruktur zu schaffen, die globale Auswirkungen weit über Europa hinaus hätte“, schrieb sie.
Die Europäische Kommission legte den ursprünglichen Vorschlag für ein Massenscannen privater Messaging-Apps zur Eindämmung der Verbreitung von CSAM im Internet bereits im Mai 2022 vor. Seitdem lehnen die Mitglieder des Europäischen Parlaments diesen Ansatz geschlossen ab. Im vergangenen Herbst schlugen sie auch einen alternativen Weg vor, der E2EE-Apps vom Scannen ausgenommen hätte. Der Europäische Rat, das gesetzgebende Organ, das sich aus Vertretern der Regierungen der Mitgliedstaaten zusammensetzt, drängt jedoch weiterhin darauf, dass stark verschlüsselte Plattformen im Anwendungsbereich des Scan-Gesetzes bleiben.
Der jüngste Vorschlag des Rates, der im Mai unter belgischer Präsidentschaft vorgelegt wurde, enthält die Anforderung, dass „Anbieter zwischenmenschlicher Kommunikationsdienste“ (auch als Messaging-Apps bekannt) das installieren und betreiben müssen, was der Entwurfstext als „Technologien zur Upload-Moderation“ beschreibt, gemäß einem Text veröffentlicht von Netzpolitik.
In Artikel 10a, der den Upload-Moderationsplan enthält, heißt es, von diesen Technologien werde erwartet, dass sie „die Verbreitung von bekanntem Material über sexuellen Kindesmissbrauch oder von neuem Material über sexuellen Kindesmissbrauch vor der Übertragung erkennen“.
Im vergangenen Monat, Euractiv berichtete, dass der überarbeitete Vorschlag von Nutzern von E2EE-Messaging-Apps verlangen würde, dem Scannen zur Erkennung von CSAM zuzustimmen. Nutzern, die nicht zustimmen, würde die Nutzung von Funktionen untersagt, die das Senden von visuellen Inhalten oder URLs beinhalten, hieß es ebenfalls – was ihre Messaging-Erfahrung im Wesentlichen auf einfache Text- und Audioinhalte herabstufen würde.
Whittakers Aussage stellt den Plan des Rates als Versuch dar, mit „rhetorischen Spielchen“ das Client-Side-Scanning umzubenennen – eine umstrittene Technologie, die nach Ansicht von Sicherheits- und Datenschutzexperten nicht mit der starken Verschlüsselung kompatibel ist, die vertrauliche Kommunikation ermöglicht.
„[M]Das massenhafte Scannen privater Kommunikation untergräbt die Verschlüsselung grundlegend. Punkt“, betonte sie. „Ob dies nun durch Manipulation beispielsweise der Zufallszahlengenerierung eines Verschlüsselungsalgorithmus geschieht, durch die Implementierung eines Schlüsselhinterlegungssystems oder dadurch, dass Kommunikationen durch ein Überwachungssystem geleitet werden, bevor sie verschlüsselt werden.“
„Wir können es Hintertür, Vordertür oder ‚Upload-Moderation‘ nennen. Aber wie auch immer wir es nennen, jeder dieser Ansätze schafft eine Schwachstelle, die von Hackern und feindlichen Nationalstaaten ausgenutzt werden kann. Dadurch wird der Schutz durch unknackbare Mathematik aufgehoben und an seine Stelle eine Schwachstelle mit hohem Wert gesetzt.“
Auch Patrick Breyer, Europaabgeordneter der Piratenpartei, der den umstrittenen Plan der Kommission zur Nachrichtenüberwachung von Anfang an abgelehnt hatte, kritisierte den überarbeiteten Ratsvorschlag in einer Stellungnahme im vergangenen Monat und warnte: „Der belgische Vorschlag bedeutet, dass der extreme und beispiellose ursprüngliche Vorschlag der EU-Kommission zur Chat-Kontrolle im Wesentlichen unverändert umgesetzt würde. Messenger-Dienste nur zum Versenden von Textnachrichten zu verwenden, ist im 21. Jahrhundert keine Option.“
Auch der Datenschutzbeauftragte der EU hat seine Bedenken geäußert. Im vergangenen Jahr warnte er, der Plan bedeute eine direkte Bedrohung für die demokratischen Werte einer freien und offenen Gesellschaft.
Der Druck auf die Regierungen, E2EE-Apps zum Scannen privater Nachrichten zu zwingen, kommt wahrscheinlich von den Strafverfolgungsbehörden.
Bereits im April veröffentlichten europäische Polizeichefs eine gemeinsame Erklärung, in der sie Plattformen aufforderten, ihre Sicherheitssysteme so zu gestalten, dass sie weiterhin illegale Aktivitäten erkennen und Berichte über Nachrichteninhalte an die Strafverfolgungsbehörden senden können. Ihr Aufruf nach „technischen Lösungen“, um einen „rechtmäßigen Zugriff“ auf verschlüsselte Daten zu gewährleisten, gab keine Auskunft darüber, wie Plattformen diesen Taschenspielertrick bewerkstelligen sollten. Aber wie wir damals berichteten, zielte die Lobbyarbeit auf eine Art clientseitiges Scannen. Es scheint daher kein Zufall zu sein, dass der Rat nur wenige Wochen später seinen Vorschlag zur „Upload-Moderation“ vorlegte.
Der Textentwurf enthält tatsächlich ein paar Aussagen, die darauf abzielen, das gigantische schwarze Loch in puncto Sicherheit und Datenschutz, das die „Upload-Moderation“ mit sich bringt, wie ein Feigenblatt zu verschließen. Dazu gehört eine Zeile, in der es heißt: „Unbeschadet des Artikels 10a darf diese Verordnung die Ende-zu-Ende-Verschlüsselung weder verbieten noch unmöglich machen.“ Außerdem wird behauptet, dass Dienstanbieter nicht verpflichtet sein werden, E2EE-Daten zu entschlüsseln oder Zugriff darauf zu gewähren. Eine Klausel besagt, dass sie keine Cybersicherheitsrisiken einführen dürfen, „für die es nicht möglich ist, wirksame Maßnahmen zur Minderung solcher Risiken zu ergreifen“, und eine weitere Zeile besagt, dass Dienstanbieter nicht in der Lage sein dürfen, „auf den wesentlichen Inhalt der Kommunikationen zu schließen“.
„Das sind alles schöne Ansichten, aber sie machen den Vorschlag zu einem sich selbst aufhebenden Paradoxon“, sagte Whittaker gegenüber Tech, als wir sie um ihre Antwort auf diese Vorbehalte baten. „Denn was vorgeschlagen wird – die obligatorische Überprüfung von Ende-zu-Ende-verschlüsselten Kommunikationen – würde die Verschlüsselung untergraben und eine erhebliche Schwachstelle schaffen.“
Die Kommission und die belgische Ratspräsidentschaft wurden mit der Bitte um eine Stellungnahme zu ihren Bedenken kontaktiert, doch zum Redaktionsschluss lag noch keine Antwort vor.
Die EU-Gesetzgebung ist normalerweise eine Dreiparteienangelegenheit – es bleibt also abzuwarten, wo der Block beim CSAM-Scanning letztlich landen wird. Sobald sich der Rat auf seine Position geeinigt hat, beginnen sogenannte Triloggespräche mit dem Parlament und der Kommission, um einen endgültigen Kompromiss zu finden. Es ist jedoch auch erwähnenswert, dass sich die Zusammensetzung des Parlaments geändert hat, seit die Abgeordneten im letzten Jahr nach den jüngsten EU-Wahlen ihr Verhandlungsmandat vereinbart haben.