Meta hat ein weiteres formelles Auskunftsersuchen (RFI) von Regulierungsbehörden der Europäischen Union erhalten, in dem es um weitere Einzelheiten zu seiner Reaktion auf Bedenken hinsichtlich der Sicherheit von Kindern auf Instagram geht – einschließlich dessen, was es unternimmt, um Risiken im Zusammenhang mit der Weitergabe von selbst erstelltem Material über sexuellen Kindesmissbrauch zu bekämpfen (SG- CSAM) im sozialen Netzwerk.
Der Antrag wird im Rahmen des kürzlich neu gestarteten Online-Regelwerks des Blocks, des Digital Services Act (DSA), gestellt, das seit Ende August für größere Plattformen (einschließlich Instagram) gilt.
Das DSA verpflichtet Big Tech, gegen illegale Inhalte vorzugehen – unter anderem durch Maßnahmen und Schutzmaßnahmen, um den Missbrauch ihrer Dienste zu verhindern. Die Verordnung legt auch einen starken Fokus auf den Schutz von Minderjährigen, daher ist es nicht verwunderlich, dass eine Reihe früher Informationsanfragen der Europäischen Kommission die Sicherheit von Kindern betrafen.
Die jüngste Anfrage der Kommission an Meta folgt unmittelbar auf einen Bericht von das WSJ Das deutet darauf hin, dass Instagram Schwierigkeiten hat, ein CSAM-Problem zu beheben, das es diesen Sommer aufgedeckt hat – als es berichtete, dass die Algorithmen von Instagram dies seien Verbinden eines Netzes von Konten die für die Erstellung, den Kauf und den Handel mit minderjährigen Sexinhalten verwendet wurden.
Im Juni warnte die EU Meta im Anschluss an die Enthüllung des WSJ, dass ihr das Risiko „schwerer Sanktionen“ droht, wenn sie nicht schnell handelt, um die Kinderschutzprobleme anzugehen.
Jetzt, Monate später, ein weiterer Bericht des WSJ behauptet, Meta habe es versäumt, die festgestellten Probleme zu beheben – obwohl das Unternehmen eine Task Force für Kindersicherheit eingerichtet hat, um zu verhindern, dass „seine eigenen Systeme ein riesiges Netzwerk pädophiler Konten ermöglichen und sogar fördern“, wie die Zeitung es ausdrückt.
„Fünf Monate später zeigen Tests des Journals und des Canadian Centre for Child Protection, dass die Empfehlungssysteme von Meta immer noch solche Inhalte fördern [i.e. accounts dedicated to producing and sharing underage-sex content]“, heißt es. „Das Unternehmen hat Hashtags im Zusammenhang mit Pädophilie entfernt, aber seine Systeme empfehlen manchmal neue mit geringfügigen Abweichungen. Selbst wenn Meta auf problematische Konten und Benutzergruppen aufmerksam gemacht wird, hat es diese nur lückenhaft entfernt.“
Die mangelhafte Leistung von Meta bei der Bekämpfung der Weitergabe von illegalem CSAM/SG-CSAM und das Versäumnis, wirksam gegen die damit verbundenen Kindersicherheitsrisiken vorzugehen, könnte für das Unternehmen in der EU sehr teuer werden: Das DSA ermächtigt die Kommission, Geldstrafen von bis zu 6 % zu verhängen wenn sie feststellt, dass gegen die Vorschriften der Verordnung verstoßen wurde.
Bereits vor etwas mehr als einem Jahr wurde Meta mit einer Geldstrafe von weniger als einer halben Milliarde Dollar belegt, nachdem festgestellt wurde, dass Instagram gegen die Datenschutzbestimmungen der Union für Minderjährige verstoßen hatte.
„Die Kommission fordert Meta auf, zusätzliche Informationen zu den Maßnahmen bereitzustellen, die sie ergriffen hat, um ihren Verpflichtungen zur Risikobewertung nachzukommen und wirksame Abhilfemaßnahmen im Zusammenhang mit dem Schutz Minderjähriger zu ergreifen, einschließlich der Verbreitung von SG-CSAM auf Instagram.“ Es werden auch Informationen über das Empfehlungssystem von Instagram und die Verbreitung potenziell schädlicher Inhalte angefordert“, schrieb die EU heute in einer Pressemitteilung und kündigte damit ihren neuesten Schritt zur Informationsbeschaffung auf der Plattform an.
Neben der Möglichkeit finanzieller Sanktionen könnte es Bedenken hinsichtlich des guten Rufs von Meta geben, wenn EU-Regulierungsbehörden wiederholt feststellen, dass Meta seinen Ansatz zum Schutz Minderjähriger in Frage stellt.
Dies ist die dritte RFI-Meta, die seit Beginn der DSA-Konformität für das Unternehmen eingegangen ist – und die zweite, die sich auf die Kindersicherheit auf Instagram konzentriert. (Die EU hat Meta außerdem um weitere Einzelheiten zu ihrem Umgang mit inhaltlichen Risiken im Zusammenhang mit dem Israel-Hamas-Krieg und zu ihren Maßnahmen zur Gewährleistung der Wahlsicherheit gebeten.)
Bisher hat die EU kein förmliches Prüfverfahren im Rahmen des DSA angekündigt. Doch die erste Flut von RFIs zeigt, dass das Unternehmen damit beschäftigt ist, Bewertungen vorzunehmen, die zu einem solchen Schritt führen könnten – was das Risiko späterer Strafen birgt, sollten sich Verstöße bestätigen.
Meta wurde eine Frist bis zum 22. Dezember gesetzt, um der Kommission die neueste Tranche der angeforderten Daten zur Kindersicherheit vorzulegen. Auch die Nichteinhaltung von RFIs – beispielsweise durch die Übermittlung falscher, unvollständiger oder irreführender Informationen als Antwort auf eine Anfrage – kann DSA-Sanktionen nach sich ziehen.
Meta wurde mit der Bitte um einen Kommentar zur neuesten RFI kontaktiert.