Die italienische Wettbewerbs- und Verbraucherbehörde AGCM hat TikTok nach einer Untersuchung zu algorithmischen Sicherheitsbedenken mit einer Geldstrafe von 10 Millionen Euro (fast 11 Millionen US-Dollar) belegt.
Die Behörde leitete im vergangenen Jahr eine Untersuchung zu einer „Französischen Narbe“-Challenge ein, bei der Nutzer der Plattform Berichten zufolge Videos von Abdrücken auf ihren Gesichtern geteilt haben, die durch das Kneifen ihrer Haut entstanden waren.
In einem Pressemitteilung Am Donnerstag teilte die AGCM mit, dass drei regionale Unternehmen der ByteDance-Gruppe, die in Irland ansässige TikTok Technology Limited, TikTok Information Technologies UK Limited und TikTok Italy Srl, wegen einer „unlauteren Geschäftspraxis“ mit Sanktionen belegt worden seien.
„Das Unternehmen hat es versäumt, geeignete Mechanismen zur Überwachung der auf der Plattform veröffentlichten Inhalte zu implementieren, insbesondere solche, die die Sicherheit von Minderjährigen und schutzbedürftigen Personen gefährden könnten. Darüber hinaus werden diese Inhalte den Benutzern aufgrund ihrer algorithmischen Profilierung systematisch erneut vorgeschlagen, was zu einer immer stärkeren Nutzung des sozialen Netzwerks führt“, schrieb die AGCM.
Die Behörde sagte, ihre Untersuchung habe die Verantwortung von TikTok für die Verbreitung von Inhalten bestätigt, „die wahrscheinlich die psycho-physische Sicherheit der Benutzer gefährden, insbesondere wenn sie minderjährig und schutzbedürftig sind“, wie beispielsweise Videos im Zusammenhang mit der „Französisch-Narbe“-Herausforderung. Es stellte außerdem fest, dass die Plattform keine angemessenen Maßnahmen ergriffen habe, um die Verbreitung solcher Inhalte zu verhindern, und sagte, sie habe ihre eigenen Plattformrichtlinien nicht vollständig eingehalten.
Die AGCM kritisierte auch die Art und Weise, wie TikTok die Richtlinien anwendet – von denen sie sagt, dass sie angewendet werden, „ohne die besondere Gefährdung von Jugendlichen angemessen zu berücksichtigen“. Es wurde beispielsweise darauf hingewiesen, dass sich die Gehirne von Teenagern noch in der Entwicklung befinden und junge Menschen möglicherweise besonders gefährdet sind, da sie dem Gruppenzwang ausgesetzt sein können, Gruppenverhalten nachzuahmen und zu versuchen, sich in die Gesellschaft einzufügen.
Die Bemerkungen der Behörde heben insbesondere die Rolle des Empfehlungssystems von TikTok bei der Verbreitung „potenziell gefährlicher“ Inhalte hervor und weisen auf den Anreiz der Plattform hin, das Engagement zu fördern und die Benutzerinteraktionen sowie die für den Dienst aufgewendete Zeit zu erhöhen, um die Werbeeinnahmen zu steigern. Das System unterstützt die „Für Sie“- und „Gefolgt“-Feeds von TikTok und basiert standardmäßig auf der algorithmischen Profilierung von Benutzern, die ihre digitalen Aktivitäten verfolgt, um zu bestimmen, welche Inhalte ihnen angezeigt werden sollen.
„Dies führt zu einer unangemessenen Konditionierung der Benutzer, die dazu angeregt werden, die Plattform zunehmend zu nutzen“, schlug die AGCM in einer anderen Bemerkung vor, die sich durch ihre kritische Haltung gegenüber Engagement auszeichnet, das durch profilbasierte Content-Feeds hervorgerufen wird.
Wir haben uns mit Fragen an die Behörde gewandt. Doch seine negative Einschätzung der Risiken algorithmischer Profilerstellung erscheint angesichts der erneuten Forderungen einiger europäischer Gesetzgeber, profilierungsbasierte Content-Feeds standardmäßig zu deaktivieren, interessant.
Zivilgesellschaftliche Gruppen wie die ICCLargumentieren auch, dass dies den Empörungshahn schließen würde, den werbefinanzierte Social-Media-Plattformen durch auf Engagement ausgerichtete Empfehlungssysteme monetarisieren, was als sekundären Effekt die Spaltung verstärkt und den gesellschaftlichen Zusammenhalt aus Profitgründen untergräbt.
TikTok bestreitet die Entscheidung der AGCM, eine Strafe zu verhängen.
In einer Erklärung versuchte die Plattform, ihre Einschätzung der algorithmischen Risiken für Minderjährige und schutzbedürftige Personen herunterzuspielen, indem sie die Intervention als eine einzelne kontroverse, aber kleine Herausforderung betrachtete. Folgendes hat uns TikTok erzählt:
Wir sind mit dieser Entscheidung nicht einverstanden. Der sogenannte „French Scar“-Inhalt wurde in Italien vor der Ankündigung der AGCM im letzten Jahr durchschnittlich nur 100 Mal pro Tag gesucht, und wir haben die Sichtbarkeit dieses Inhalts schon vor langer Zeit auf U18-Jährige beschränkt und ihn außerdem für den For You-Feed ausgeschlossen.
Während die italienische Durchsetzung auf einen EU-Mitgliedsstaat beschränkt ist, ist die Europäische Kommission dafür verantwortlich, die Einhaltung der algorithmischen Rechenschaftspflicht- und Transparenzbestimmungen im europaweiten Digital Services Act (DSA) durch TikTok zu überwachen – wo die Strafen bei Nichteinhaltung bis zu 6 % betragen können weltweiter Jahresumsatz. TikTok wurde bereits im April letzten Jahres im Rahmen des DSA als sehr große Plattform ausgewiesen, wobei die Einhaltung bis zum Spätsommer erwartet wird.
Eine bemerkenswerte Änderung infolge des DSA besteht darin, dass TikTok den Nutzern Feeds anbietet, die nicht auf der Profilierung basieren. Allerdings sind diese alternativen Feeds standardmäßig deaktiviert, was bedeutet, dass Benutzer weiterhin der KI-basierten Nachverfolgung und Profilerstellung unterliegen, es sei denn, sie ergreifen selbst Maßnahmen, um sie abzuschalten.
Letzten Monat leitete die EU eine formelle Untersuchung von TikTok ein und nannte dabei süchtig machendes Design und schädliche Inhalte sowie den Schutz von Minderjährigen als Schwerpunkte. Dieses Verfahren ist noch nicht abgeschlossen.
TikTok hat erklärt, dass es sich auf die Gelegenheit freue, der Kommission eine detaillierte Erläuterung seines Ansatzes zum Schutz Minderjähriger zu geben.
Allerdings hatte das Unternehmen in den letzten Jahren bereits mehrere Auseinandersetzungen mit regionalen Strafverfolgungsbehörden, die sich Sorgen um die Sicherheit von Kindern machten, darunter eine Intervention der italienischen Datenschutzbehörde zum Schutz von Kindern; im vergangenen Herbst eine Geldbuße in Höhe von 345 Millionen Euro wegen Datenschutzverstößen, die auch Minderjährige betrafen; und langjährige Beschwerden von Verbraucherschutzgruppen, die sich Sorgen über die Sicherheit und das Profiling von Minderjährigen machen.
TikTok sieht sich auch mit der Möglichkeit einer stärkeren Regulierung durch Agenturen auf Mitgliedsstaatsebene konfrontiert, die die Richtlinie über audiovisuelle Mediendienste des Blocks anwenden. So wie das irische Coimisiún na Meán über die Anwendung von Regeln nachdenken zu Video-Sharing-Plattformen, die erfordern würden, dass Empfehlungsalgorithmen, die auf der Profilerstellung basieren, standardmäßig deaktiviert sind.
Auch in den USA ist das Bild für die Plattform nicht besser, da der Gesetzgeber gerade einen Gesetzentwurf vorgeschlagen hat, der TikTok verbietet, es sei denn, es kappt die Verbindungen zur chinesischen Muttergesellschaft ByteDance ein Weg für eine ausländische Regierung, Amerikaner zu manipulieren.