Inmitten der Frage nach der Verwendung biometrischer Daten durch TikTok in der heutigen Kongressanhörung gab TikTok-CEO Shou Zi Chew einen Einblick, wie das Unternehmen potenziell minderjährige Benutzer auf seiner Plattform überprüft. Nachdem verweigert wurde, dass die App Körper-, Gesichts- oder Stimmdaten sammelt, um ihre Benutzer zu identifizieren – über das hinaus, was für die Funktion der In-App-AR-Filter erforderlich ist – wurde der Manager gefragt, wie TikTok das Alter seiner Benutzer bestimmt.
Chews erste Antwort wurde erwartet: die App verwendet Age-Gating. Dies bezieht sich auf die häufig verwendete Methode, bei der ein Benutzer einfach aufgefordert wird, sein Geburtsdatum anzugeben, um sein Alter zu bestimmen. Bei TikTok gibt es sie drei unterschiedliche Erfahrungen für Benutzer unter 13 Jahren, jüngere Teenager und Erwachsene ab 18 Jahren, und welche Erfahrung der Benutzer auf dieser Alterseingabe erhält.
Sich allein auf diese Methode zu verlassen, ist natürlich ein Problem, denn Kinder lügen oft über ihr Alter, wenn sie sich für Social-Media-Apps und -Websites anmelden.
Wie sich herausstellt, tut TikTok mehr, als nur das Alter zu betrachten, das in ein Textfeld eingegeben wird.
In der Anhörung fügte Chew hinzu, dass TikTok die Videos der Benutzer scannt, um ihr Alter zu bestimmen.
„Wir haben auch einige Tools entwickelt, mit denen wir uns ihr öffentliches Profil ansehen, um die Videos durchzugehen, die sie posten, um zu sehen, ob …“, begann Chew, bevor er von Rep. Buddy Carter (R-GA) unterbrochen wurde, der einwarf: „ das ist gruselig. Erzähl mir mehr darüber.“
Als Chew fortfahren konnte, erklärte er: „Es ist öffentlich. Wenn du also ein Video postest, wählst du aus, dass dieses Video veröffentlicht wird – so bringst du Leute dazu, dein Video zu sehen. Wir schauen uns diese an, um zu sehen, ob sie dem Alter entsprechen, in dem Sie darüber gesprochen haben“, sagte er.
„Nun, das ist eine echte Herausforderung für unsere Branche, denn Datenschutz versus Alterssicherung ist ein wirklich großes Problem“, sagte Chew.
Eine interessante Folgefrage zur Antwort des CEO wäre gewesen, zu fragen, wie TikTok diese Videos gescannt hat, welche spezifischen Gesichtserkennungs- oder andere Technologien verwendet werden und ob diese Technologien intern entwickelt wurden oder ob es sich auf Gesichtserkennungstechnologie stützt von Drittanbietern gebaut. Dann natürlich, ob irgendwelche Daten, die das Alter mit dem Benutzer in Verbindung bringen, dauerhaft gespeichert wurden, anstatt verwendet zu werden, um den Benutzer beispielsweise einfach aus einem TikTok LIVE-Stream zu booten.
Unglücklicherweise hat Carter diese Fragestellung nicht weiterverfolgt.
Stattdessen hat er den CEO verprügelt, weil er die Altersüberprüfung als branchenweites Problem abgetan hat.
„Wir reden über sterbende Kinder!“, rief er und verwies auf die gefährlichen Herausforderungen, die Apps wie TikTok und andere viral gemacht haben, wie die Blackout-Challenge. (Diese Herausforderung führte dazu, dass TikTok etwa eine halbe Million Konten in Italien entfernte, um minderjährige Benutzer von seiner Plattform zu sperren, und zwar auf Ersuchen der örtlichen Regulierungsbehörde.)
Die Realität ist diese Altersüberprüfung Ist Eine branchenweite Besorgnis und das Fehlen von US-Gesetzen in Bezug auf die Nutzung sozialer Medien durch Kinder lässt Unternehmen wie TikTok und andere ihre eigenen Prozesse entwickeln.
Zum Beispiel hat Instagram erst letztes Jahr damit begonnen, das Alter der Benutzer zu überprüfen, indem es den Benutzern eine Auswahl von drei Optionen anbietet. Benutzer konnten entweder eine ID hochladen, ein Video-Selfie aufnehmen oder gemeinsame Freunde bitten, ihr Alter in ihrem Namen zu bestätigen. Letzteres ist relativ einfach zu umgehen, wenn Sie gute Freunde haben, die bereit sind, für Sie zu lügen.
Anfang dieses Monats hat Instagram seine Tools zur Altersüberprüfung in Kanada und Mexiko eingeführt, zusätzlich zu der bestehenden Unterstützung in den USA, Brasilien und Japan. Das Unternehmen hatte zuvor gesagt, es habe eine Partnerschaft mit einem in London ansässigen Startup für digitale Identitäten geschlossen Yoti für den Video-Selfie-Teil des Altersüberprüfungsprozesses.
Instagram hat zuvor auch auf hoher Ebene erklärt, wie es identifiziert, welche Benutzer verdächtigt werden, minderjährig zu sein.
Abgesehen von der Untersuchung gekennzeichneter Konten behauptet das Unternehmen dies entwickelte KI-Technologie dass es verwendet wird, um auf das Alter einer Person zu schließen. Sein Modell hat ein Verständnis dafür, wie Menschen derselben Altersgruppe dazu neigen, mit Inhalten zu interagieren. Eine weitere Möglichkeit, einen minderjährigen Benutzer zu identifizieren, der über sein Alter lügt, besteht darin, die Kommentare zu „Happy Birthday“-Posts zu scannen, in denen möglicherweise auf das Alter eines Benutzers verwiesen wird. Außerdem sagte Instagram, dass es versuchen könnte, das Alter eines Benutzers auf Facebook mit seinem angegebenen Alter auf Instagram abzugleichen, zusammen mit der Verwendung von „vielen anderen Signalen“, die es nicht offenlegt.
Die Technik von TikTok war weniger klar. Das Unternehmen dokumentiert, wie Sie Ihr Alter überprüfen können, wenn Sie falsch identifiziert wurden – zum Beispiel, wenn Sie von LIVE gekickt wurden, weil Sie zu jung aussahen. (Letzten Herbst gab TikTok bekannt, dass es die Altersanforderung für die Nutzung seines In-App-Livestreaming-Dienstes TikTok LIVE von 16 auf 18 anheben würde).
Letztes Jahr, Das berichtete Bloomberg TikTok traf sich 2021 mit zwei Anbietern von Software zur Gesichtsaltersschätzung. Beide Unternehmen boten Software an, die den Unterschied zwischen Kindern und Erwachsenen erkennen konnte, aber ein TikTok führte die Geschäfte zunichte, weil er befürchtete, dass ein solches Gesichtsscannen zu Befürchtungen führen würde, dass China ausspioniert auf Kinderbenutzer, hatte der Bericht gesagt.
Heute hatten die USA den TikTok-CEO auf dem heißen Stuhl, der bereit war, die tatsächlichen Techniken zu erklären, die TikTok zur Altersbestimmung verwendet, und alles, was wir bekamen, waren schreiende, tosende Politiker, die eine Show aufführten, anstatt echte Antworten zu bekommen.