TikTok wird nächsten Monat lokalisierte Wahlressourcen in seiner App einführen, um Benutzer in jedem der 27 Mitgliedstaaten der Europäischen Union im nächsten Monat zu erreichen und sie auf „vertrauenswürdige Informationen“ hinzuweisen, als Teil seiner Vorbereitungen zur Bekämpfung von Desinformationsrisiken im Zusammenhang mit Regionalwahlen in diesem Jahr.
„Nächsten Monat werden wir für jeden der 27 einzelnen EU-Mitgliedstaaten eine In-App für das Wahlzentrum in der Landessprache einführen, um sicherzustellen, dass die Menschen Fakten und Fiktionen leicht unterscheiden können. In Zusammenarbeit mit lokalen Wahlkommissionen und Organisationen der Zivilgesellschaft werden diese Wahlzentren ein Ort sein, an dem unsere Gemeinschaft vertrauenswürdige und maßgebliche Informationen finden kann“, schrieb TikTok heute.
„Videos im Zusammenhang mit den Europawahlen werden gekennzeichnet, um die Menschen auf das entsprechende Wahlzentrum zu leiten. Im Rahmen unserer umfassenderen Bemühungen um Wahlintegrität werden wir auch Erinnerungen zu Hashtags hinzufügen, um die Menschen zu ermutigen, unsere Regeln zu befolgen, Fakten zu überprüfen und Inhalte zu melden, von denen sie glauben, dass sie gegen unsere Community-Richtlinien verstoßen“, hieß es in einer Stellungnahme Blogeintrag bespricht seine Vorbereitungen für die Europawahlen 2024.
In dem Blog-Beitrag wird auch erörtert, was das Unternehmen im Hinblick auf gezielte Risiken unternimmt, die in Form von Einflussoperationen erfolgen, die darauf abzielen, ihre Tools zur heimlichen Täuschung und Manipulation von Meinungen zu nutzen, um Wahlen zu verfälschen – beispielsweise durch die Einrichtung von Netzwerken gefälschter Konten und deren Nutzung sie, um unauthentische Inhalte zu verbreiten und zu fördern. Hier hat es sich verpflichtet, „spezielle Berichte zu verdeckten Einflussoperationen“ einzuführen – von denen es behauptet, dass sie „die Transparenz, Rechenschaftspflicht und den branchenübergreifenden Austausch“ gegenüber verdeckten Informationen weiter erhöhen werden.
Die neuen verdeckten Einfluss-Operations-Berichte werden laut TikTok „in den kommenden Monaten“ veröffentlicht – vermutlich in der bestehenden Version gehostet Transparenzzentrum.
TikTok kündigt außerdem den bevorstehenden Start von neun weiteren Kampagnen zur Medienkompetenz in der Region an (nach dem Start von 18 im letzten Jahr, also insgesamt 27 – das Unternehmen scheint also die Lücken zu schließen, um sicherzustellen, dass es Kampagnen in allen EU-Mitgliedstaaten durchgeführt hat).
Es heißt auch, dass es sein lokales Partnernetzwerk zur Faktenprüfung erweitern möchte – derzeit arbeitet es nach eigenen Angaben mit neun Organisationen zusammen, die 18 Sprachen abdecken. (Hinweis: In der EU gibt es 24 „offizielle“ Sprachen und weitere 16 „anerkannte“ Sprachen – gesprochene Einwanderersprachen nicht mitgerechnet.)
Bemerkenswert ist jedoch, dass der Video-Sharing-Riese keine neuen Maßnahmen im Zusammenhang mit Wahlsicherheitsrisiken im Zusammenhang mit KI-generierten Deepfakes ankündigt.
In den letzten Monaten hat die EU ihre Aufmerksamkeit auf generative KI und politische Deepfakes gelenkt und fordert, dass Plattformen Schutzmaßnahmen gegen diese Art von Desinformation einführen.
Der Blogbeitrag von TikTok – der Kevin Morgan, TikToks Leiter für Sicherheit und Integrität für EMEA, zugeschrieben wird – warnt davor, dass generative KI-Technologie „neue Herausforderungen im Zusammenhang mit Fehlinformationen“ mit sich bringt. Darin heißt es auch, dass die Plattform keine „manipulierten Inhalte, die irreführend sein könnten“ zulässt – einschließlich KI-generierter Inhalte von Persönlichkeiten des öffentlichen Lebens, „wenn sie eine politische Meinung vertreten“. Morgan macht jedoch keine Angaben darüber, wie erfolgreich (oder nicht) es derzeit bei der Erkennung (und Entfernung) politischer Deepfakes ist, bei denen Benutzer das Verbot ignorieren und trotzdem politisch irreführende, von der KI generierte Inhalte hochladen.
Stattdessen schreibt er, dass TikTok von den Erstellern verlangt, realistische KI-generierte Inhalte zu kennzeichnen – und weist auf die kürzliche Einführung eines Tools hin, das Benutzern dabei helfen soll, Deepfakes manuell zu kennzeichnen. Der Beitrag enthält jedoch keine Einzelheiten zur Durchsetzung dieser Deepfake-Kennzeichnungsregel durch TikTok. Es gibt auch keine weiteren Einzelheiten darüber, wie es generell mit Deepfake-Risiken umgeht, auch im Zusammenhang mit Wahldrohungen.
„Während sich die Technologie weiterentwickelt, werden wir unsere Bemühungen weiter verstärken, unter anderem durch die Zusammenarbeit mit der Industrie im Rahmen von Content-Provenance-Partnerschaften“, ist der einzige andere Leckerbissen, den TikTok hier zu bieten hat.
Wir haben uns mit einer Reihe von Fragen an das Unternehmen gewandt, um detailliertere Informationen zu den Schritten zu erhalten, die es zur Vorbereitung auf die Europawahlen unternimmt, einschließlich der Frage, wo in der EU sich seine Bemühungen konzentrieren und welche bestehenden Lücken bestehen (z. B. in Sprache, Fakten). Überprüfung und Berichterstattung über Medienkompetenz) und wir werden diesen Beitrag mit jeder Antwort aktualisieren.
Neue EU-Anforderung, gegen Desinformation vorzugehen
Die Wahlen für ein neues Europäisches Parlament sollen Anfang Juni stattfinden, und die Union hat den Druck insbesondere auf Social-Media-Plattformen zur Vorbereitung erhöht. Seit letztem August verfügt die EU über neue rechtliche Instrumente, um etwa zwei Dutzend größere Plattformen zum Handeln zu zwingen, die den strengsten Anforderungen ihres neu gestarteten Online-Governance-Regelwerks unterliegen.
Bisher hat sich der Block auf Selbstregulierung, auch bekannt als Verhaltenskodex gegen Desinformation, verlassen, um zu versuchen, Maßnahmen der Industrie zur Bekämpfung von Desinformation voranzutreiben. Aber die EU beklagt sich auch schon seit Jahren darüber, dass die Unterzeichner dieser freiwilligen Initiative, zu denen TikTok und die meisten anderen großen Social-Media-Unternehmen gehören (nicht jedoch X/Twitter, das sich letztes Jahr von der Liste gestrichen hat), nicht genug tun, um dagegen vorzugehen zunehmende Informationsbedrohungen, auch für Regionalwahlen.
Der EU-Desinformationskodex wurde bereits 2018 als begrenzter Satz freiwilliger Standards ins Leben gerufen, wobei eine Handvoll Unterzeichner einige umfassende Reaktionen auf Desinformationsrisiken versprach. Im Jahr 2022 wurde es dann mit mehr (und „granulareren“) Verpflichtungen und Maßnahmen verschärft – plus einer längeren Liste von Unterzeichnern, einschließlich eines breiteren Spektrums von Akteuren, deren technische Tools oder Dienste möglicherweise eine Rolle im Desinformationsökosystem spielen.
Während der verschärfte Kodex weiterhin nicht rechtsverbindlich ist, hat die Kommission, die Exekutive und Online-Regelwerksdurchsetzungsbehörde der EU für größere digitale Plattformen, erklärt, dass sie die Einhaltung des Kodex berücksichtigen wird, wenn es darum geht, die Einhaltung relevanter Elemente des (rechtsverbindlichen) Kodex zu bewerten. Digital Services Act (DSA) – der große Plattformen, darunter TikTok, dazu verpflichtet, Maßnahmen zu ergreifen, um systemische Risiken, die sich aus der Nutzung ihrer technischen Tools ergeben, wie etwa Wahlbeeinträchtigungen, zu erkennen und zu mindern.
Die regelmäßigen Überprüfungen der Leistung der Kodex-Unterzeichner durch die Kommission umfassen in der Regel lange, öffentliche Vorträge von Kommissaren, in denen sie warnen, dass Plattformen ihre Bemühungen um eine konsistentere Moderation und Investitionen in die Faktenprüfung verstärken müssen, insbesondere in kleineren EU-Mitgliedstaaten und Sprachen. Die Reaktion der Plattformen auf die negative PR der EU besteht darin, neue Forderungen zu stellen, Maßnahmen zu ergreifen/mehr zu tun. Und dann spielt sich die gleiche Pantomime normalerweise sechs Monate oder ein Jahr später ab.
Dieser „Desinformation muss es besser machen“-Kreislauf könnte sich jedoch ändern, da der Block endlich über ein Gesetz verfügt, um Maßnahmen in diesem Bereich zu erzwingen – in Form des DSA, das seit August letzten Jahres auf größeren Plattformen Anwendung findet. Deshalb ist die Kommission derzeit Beratung zu detaillierten Leitlinien zur Wahlsicherheit. Die Leitlinien werden angestrebt die fast zwei Dutzend Unternehmen, die im Rahmen der Verordnung als sehr große Online-Plattformen (VLOPs) oder sehr große Online-Suchmaschinen (VLOSEs) eingestuft werden und daher gesetzlich verpflichtet sind, Desinformationsrisiken zu mindern.
Das Risiko für betroffene Plattformen besteht darin, dass sie gegen Desinformationsbedrohungen vorgehen, wenn sie gegen Desinformationsbedrohungen vorgehen, und zwar in einem Verstoß gegen das DSA – wobei die Strafen für Verstöße bis zu 6 % des weltweiten Jahresumsatzes betragen können. Die EU hofft, dass die Regulierung die Aufmerksamkeit der Technologiegiganten endlich auf die entschlossene Bewältigung eines gesellschaftlich zerstörerischen Problems lenken wird – eines, das Adtech-Plattformen mit ihren kommerziellen Anreizen zur Steigerung der Nutzung und des Engagements haben Ich habe mich im Allgemeinen dafür entschieden, jahrelang herumzutanzen und herumzutanzen.
Die Kommission selbst ist für die Durchsetzung des DSA auf VLOPs/VLOSEs verantwortlich. Und letztendlich wird darüber entschieden, ob TikTok (und die anderen in den Geltungsbereich einbezogenen Plattformen) genug getan haben, um Desinformationsrisiken zu bekämpfen oder nicht.
Angesichts der heutigen Ankündigungen scheint TikTok seine Herangehensweise an regionale Informations- und Wahlsicherheitsrisiken zu verstärken, um zu versuchen, es umfassender zu gestalten – womit möglicherweise eine häufige Beschwerde der Kommission angegangen wird – obwohl es weiterhin an Ressourcen zur Faktenprüfung mangelt, die alles abdecken der Amtssprachen der EU ist bemerkenswert. (Obwohl das Unternehmen darauf angewiesen ist, Partner zu finden, die diese Ressourcen bereitstellen.)
Die neuen Wahlzentren – von denen TikTok sagt, dass sie in der Amtssprache aller 27 EU-Mitgliedstaaten lokalisiert sein werden – könnten bei der Bekämpfung von Wahlbeeinträchtigungen eine wichtige Rolle spielen. Vorausgesetzt, sie erweisen sich als wirksam, wenn es darum geht, Benutzer dazu zu bringen, kritischer auf fragwürdige politische Inhalte zu reagieren, denen sie durch die App ausgesetzt sind, indem sie sie beispielsweise dazu ermutigen, Maßnahmen zur Überprüfung der Richtigkeit zu ergreifen, indem sie den Links zu maßgeblichen Informationsquellen folgen. Aber vieles wird davon abhängen, wie diese Interventionen präsentiert und gestaltet werden.
Bemerkenswert ist auch die Ausweitung der Medienkompetenzkampagnen auf alle EU-Mitgliedstaaten – eine weitere häufige Beschwerde der Kommission. Es ist jedoch nicht klar, ob alle diese Kampagnen vor den Europawahlen im Juni stattfinden werden (wir haben nachgefragt).
An anderer Stelle scheinen die Aktionen von TikTok eher auf der Stelle zu treten. Beispielsweise wurde im letzten Bericht der Plattform zum Desinformationskodex an die Kommission vom vergangenen Herbst darauf hingewiesen, dass sie ihre Richtlinie zu synthetischen Medien auf KI-generierte oder KI-modifizierte Inhalte ausgeweitet hat. Allerdings hieß es damals auch, dass man die Durchsetzung seiner Richtlinie zu synthetischen Medien in den nächsten sechs Monaten weiter verstärken wolle. Die heutige Ankündigung enthält jedoch keine neuen Details zu den Durchsetzungsfähigkeiten.
In ihrem früheren Bericht an die Kommission wurde außerdem darauf hingewiesen, dass sie „neue Produkte und Initiativen zur Verbesserung unserer Erkennungs- und Durchsetzungsfähigkeiten“ im Zusammenhang mit synthetischen Medien untersuchen wolle, auch im Bereich der Benutzerschulung. Auch hier ist nicht klar, ob TikTok hier große Fortschritte gemacht hat – obwohl das größere Problem das Fehlen robuster Methoden (Technologien oder Techniken) zur Erkennung von Deepfakes ist, obwohl Plattformen wie TikTok es Benutzern sehr einfach machen, KI-generierte Fakes zu verbreiten weit und breit.
Diese Asymmetrie kann letztendlich andere Arten politischer Interventionen erfordern, um KI-bezogene Risiken wirksam zu bewältigen.
Was TikToks angeblichen Fokus auf Benutzeraufklärung betrifft, hat das Unternehmen nicht angegeben, ob die zusätzlichen regionalen Medienkompetenzkampagnen, die es im Jahr 2024 durchführen wird, darauf abzielen, Benutzern dabei zu helfen, durch KI verursachte Risiken zu erkennen. Auch hier haben wir um weitere Details gebeten.
Die Plattform hat sich ursprünglich im Juni 2020 dem Desinformationskodex der EU angeschlossen. Doch als die Sicherheitsbedenken im Zusammenhang mit ihrer in China ansässigen Muttergesellschaft zunahmen, sah sie sich in der Region zunehmendem Misstrauen und strengerer Kontrolle ausgesetzt. Darüber hinaus dürften TikTok – und andere – mit dem Inkrafttreten des DSA im letzten Sommer und einem bevorstehenden großen Wahljahr für die EU in absehbarer Zukunft im Fadenkreuz der Kommission wegen Desinformationsrisiken stehen.
Obwohl X die zweifelhafte Ehre hat, als erstes Unternehmen offiziell wegen der DSA-Risikomanagementanforderungen und einer Reihe anderer Verpflichtungen untersucht zu werden, befürchtet die Kommission, dass das Unternehmen möglicherweise gegen dieses Unternehmen verstößt.