Am Mittwoch forderte die Europäische Union von Snapchat, TikTok und YouTube weitere Informationen über ihre jeweiligen Algorithmen zur Inhaltsempfehlung, Aktivitäten, die unter das Online-Governance-Regelwerk der Union, den Digital Services Act (DSA), fallen.
In einem Pressemitteilung Die Kommission sagte, sie habe Informationsanfragen (RFI) an die drei Social-Media-Plattformen gesendet und sie um weitere Einzelheiten zum Design und zur Funktionsweise ihrer Algorithmen gebeten. Dem Trio wurde bis zum 15. November Zeit gegeben, die gesuchten Daten bereitzustellen.
Die EU sagte, ihre Antworten würden in alle nächsten Schritte einfließen – etwa in die mögliche Einleitung förmlicher Ermittlungen.
Der Online-Governance-Rahmen des Blocks sieht harte Strafen für Verstöße vor (bis zu 6 % des weltweiten Jahresumsatzes). Aufgrund ihrer Bezeichnung als VLOPs (auch bekannt als sehr große Online-Plattformen) wendet es auf die drei Plattformen eine zusätzliche Ebene systemischer Risikominderungsregeln an.
Diese Regeln verlangen von größeren Plattformen, Risiken zu identifizieren und zu mindern, die sich aus der Verwendung von KI als Tool zur Inhaltsempfehlung ergeben könnten. Das Gesetz schreibt vor, dass sie Maßnahmen ergreifen müssen, um negative Auswirkungen in einer Reihe von Bereichen zu verhindern, einschließlich der psychischen Gesundheit der Benutzer und des bürgerschaftlichen Diskurses. Die EU hat außerdem gewarnt, dass Algorithmen zur Steigerung des Engagements zur Verbreitung schädlicher Inhalte führen könnten. Dies scheint der Schwerpunkt der neuesten RFIs zu sein.
Die Kommission sagte, sie fordere Snapchat und YouTube auf, „detaillierte Informationen“ über die KI-basierten Algorithmusparameter bereitzustellen, die sie verwenden, um ihren Nutzern Inhalte zu empfehlen. Außerdem werden mehr Daten darüber benötigt, welche Rolle diese bei der „Verstärkung bestimmter systemischer Risiken“ spielen – einschließlich Risiken im Zusammenhang mit dem Wahlprozess und dem bürgerschaftlichen Diskurs; das psychische Wohlbefinden der Nutzer (z. B. Suchtverhalten und Inhalts-„Kaninchenlöcher“); und Jugendschutz.
„Die Fragen betreffen auch die Maßnahmen der Plattformen, um den potenziellen Einfluss ihrer Empfehlungssysteme auf die Verbreitung illegaler Inhalte, wie etwa die Förderung illegaler Drogen und Hassreden, abzuschwächen“, fügte die EU hinzu.
Für TikTok möchte die Kommission detailliertere Informationen zu Anti-Manipulationsmaßnahmen erhalten, die eingesetzt werden, um zu verhindern, dass böswillige Akteure die Plattform ausnutzen, um schädliche Inhalte zu verbreiten. Die EU bittet TikTok außerdem um weitere Informationen dazu, wie Risiken im Zusammenhang mit Wahlen, Medienpluralismus und bürgerschaftlichem Diskurs gemindert werden – systemische Risiken, die ihrer Meinung nach durch Empfehlungssysteme verstärkt werden könnten.
Diese neuesten Informationsanfragen sind nicht die ersten, die die Kommission an die drei Plattformen gesendet hat. Frühere DSA-Anfragen beinhalteten Fragen an das Trio (und mehrere andere VLOPs) zu Wahlrisiken vor den EU-Wahlen Anfang dieses Jahres. Alle drei wurden zuvor auch zu Fragen des Kinderschutzes befragt. Darüber hinaus hat die Kommission letztes Jahr eine Informationsanfrage an TikTok gesendet und gefragt, wie das Unternehmen auf inhaltliche Risiken im Zusammenhang mit dem Krieg zwischen Israel und der Hamas reagiert.
Die Plattform von ByteDance ist jedoch das einzige der drei Social-Media-Produkte, gegen das bislang eine formelle DSA-Untersuchung durchgeführt wurde. Im Februar leitete der Block eine Untersuchung der DSA-Konformität von TikTok ein und erklärte, er sei besorgt über eine Reihe von Problemen, darunter den Ansatz der Plattform zum Jugendschutz und das Risikomanagement von süchtig machendem Design und schädlichen Inhalten. Diese Untersuchung ist noch nicht abgeschlossen.
TikTok-Sprecher Paolo Ganino schickte eine Erklärung per E-Mail an Tech, in der er die Maßnahme bestätigte: „Heute Morgen haben wir eine Informationsanfrage von der Europäischen Kommission erhalten, die wir nun prüfen werden. Wir werden während des gesamten RFI-Prozesses mit der Kommission zusammenarbeiten.“
Wir haben auch Snap und TikTok um Antworten auf die jüngsten RFIs der Kommission gebeten.
Die DSA-Regeln für VLOPs sind seit Ende letzten Sommers in Kraft, aber der Block hat noch keine seiner zahlreichen Untersuchungen zu größeren Plattformen abgeschlossen. Im Juli veröffentlichte die Kommission jedoch vorläufige Ergebnisse zu Untersuchungen zu Bereitstellung des Datenzugangs für Forscher; und Anzeigentransparenz.