TikTok hat ein weiteres Problem, das seinem wachsenden Stapel hinzugefügt werden muss: Italiens Verbraucherschutzbehörde hat eine Untersuchung wegen Bedenken hinsichtlich der Benutzersicherheit eingeleitet – und eingegriffen, nachdem eine sogenannte „französische Narben“-Challenge auf der Video-Sharing-Plattform viral geworden ist, bei der Benutzer anscheinend gekniffen haben ihre Gesichter, um rote Linien als Scheinnarben zu erzeugen und zu zeigen. (Ja wirklich.)
In einem Pressemitteilung Heute beschuldigte die AGCM TikTok, kein angemessenes Moderationssystem für nutzergenerierte Inhalte zu haben, und behauptete, dass es die in seinen AGB festgelegten Community-Richtlinien nicht einhalte, in denen es behauptet, gefährliche Inhalte wie Beiträge zu entfernen, die zu Selbstmord, Selbstverletzung und Essstörungen auffordern . Aber sich selbst zu kneifen macht anscheinend nicht die Stange.
Die Untersuchung der AGCM richtet sich gegen das irische Unternehmen TikTok Technology Limited, das die europäischen Verbraucherbeziehungen der Plattform verwaltet, sowie gegen englische und italienische TikTok-Unternehmen. Und es sagte, es habe heute eine Inspektion in der italienischen Zentrale von TikTok durchgeführt, unterstützt von der Special Antitrust Unit des Guardia di Finanza.
Die Behörde sagte, sie habe beschlossen, sich mit TikTok zu befassen, nachdem zahlreiche Videos von Teenagern aufgetaucht seien, die sich an „selbstverletzendem Verhalten“ beteiligten – einschließlich der oben erwähnten Herausforderung „Französische Narbe“, die Im vergangenen Monat führte zu einer Reihe von Warnungen von Dermatologen, dass die Aktivität zu dauerhaften Flecken oder Rötungen führen könnte.
Die AGCM sagte, sie sei besorgt, dass TikTok keine angemessenen Systeme zur Inhaltsüberwachung eingerichtet habe, insbesondere angesichts der Anwesenheit besonders gefährdeter Benutzer wie Minderjähriger. Es wirft der Plattform auch vor, ihre eigenen Regeln nicht anzuwenden und gefährliche Inhalte zu entfernen, die laut AGB nicht zulässig sind.
Darüber hinaus möchte es die Rolle der künstlichen Intelligenz von TikTok bei der Verbreitung der problematischen Herausforderung untersuchen.
Die Plattform verwendet bekanntermaßen KI, um Inhalte auszuwählen, die den Benutzern im „For you“-Feed angezeigt werden, der auf der Grundlage von TikToks Tracking und Profilerstellung von Benutzern „personalisiert“ ist, einschließlich der Berücksichtigung von Signalen wie anderen ähnlichen Inhalten, die sie angesehen oder anderweitig mit ihnen interagiert haben die ähnliche Funktion. Wie es genau funktioniert, ist jedoch ein kommerziell gehütetes Geheimnis. Eine zu berücksichtigende Frage ist also, welche Rolle der Algorithmus von TikTok bei der Verstärkung und Verbreitung dieser potenziell schädlichen Herausforderung gespielt hat.
Wir haben uns mit Fragen an die AGCM gewandt, unter anderem, ob sie beabsichtigt, den TikTok-Algorithmus zu prüfen.
TikTok wurde auch kontaktiert, um einen Kommentar zu der Untersuchung abzugeben – aber zum Zeitpunkt des Verfassens dieses Artikels hatte es nicht geantwortet.
Es ist nicht das erste Mal, dass Sicherheitsbedenken bei TikTok Maßnahmen der italienischen Aufsichtsbehörden auslösen: Bereits im Jahr 2021 schritt der Datenschutzbeauftragte wegen Bedenken hinsichtlich der Sicherheit von Kindern im Zusammenhang mit einer „Blackout“-Challenge ein, die offenbar auf der Plattform die Runde machte – nachdem lokale Medien den Tod gemeldet hatten eines minderjährigen Benutzers (eines zehnjährigen Mädchens). Dieser Eingriff führte dazu, dass TikTok über eine halbe Million Konten löschte, von denen es nicht verifizieren konnte, dass sie nicht Kindern gehörten.
Dieselbe Regulierungsbehörde warnte TikTok auch schnell davor, im vergangenen Sommer einen geplanten Wechsel der Datenschutzrichtlinie vorzunehmen, nachdem die Plattform angekündigt hatte, dass sie die Zustimmung der Benutzer für ihre Anzeigenausrichtung einstellen würde. Nachdem auch andere Datenschutzbehörden eingegriffen hatten, wurde der Plan fallen gelassen.
In jüngerer Zeit hat TikTok gegen eine wachsende Flut nationaler Sicherheitsbedenken gekämpft, die eine Reihe westlicher Regierungen dazu veranlasst haben, ihren Mitarbeitern die Verwendung der App auf offiziellen Geräten zu verbieten. Und die Biden-Regierung hat den Druck weiter erhöht, indem sie mit einem vollständigen US-Verbot der App gedroht hat, wenn sich das Unternehmen nicht von seinem chinesischen Eigentum trennt.