Obwohl Twitter als Online-Wasserkühler für Journalisten, Politiker und VCs dient, ist es nicht das profitabelste soziale Netzwerk auf dem Block. Inmitten interner Umwälzungen und des zunehmenden Drucks von Investoren, mehr Geld zu verdienen, erwog Twitter Berichten zufolge die Monetarisierung von Inhalten für Erwachsene.
Laut a Bericht von The Verge war Twitter bereit, ein Konkurrent von OnlyFans zu werden, indem es erwachsenen Schöpfern erlaubte, Abonnements auf der Social-Media-Plattform zu verkaufen. Diese Idee mag auf den ersten Blick seltsam klingen, ist aber eigentlich gar nicht so abwegig – einige erwachsene YouTuber verlassen sich bereits auf Twitter, um für ihre OnlyFans-Konten zu werben, da Twitter eine der wenigen großen Plattformen ist, auf der das Posten von Pornos nicht gegen Richtlinien verstößt.
Aber Twitter hat dieses Projekt offenbar auf Eis gelegt, nachdem ein „rotes Team“ mit 84 Mitarbeitern, das das Produkt auf Sicherheitslücken testen sollte, festgestellt hat, dass Twitter Material über sexuellen Missbrauch von Kindern (CSAM) und nicht einvernehmliche Nacktheit nicht in großem Umfang erkennen kann. Twitter fehlten auch Tools, um zu überprüfen, ob Ersteller und Verbraucher von Inhalten für Erwachsene über 18 Jahre alt waren. Dem Bericht zufolge warnte das Gesundheitsteam von Twitter seit Februar 2021 Vorgesetzte vor dem CSAM-Problem der Plattform.
Um solche Inhalte zu erkennen, verwendet Twitter eine von Microsoft entwickelte Datenbank namens PhotoDNA, die Plattformen hilft, bekannte CSAM schnell zu identifizieren und zu entfernen. Aber wenn ein Stück CSAM nicht bereits Teil dieser Datenbank ist, können neuere oder digital veränderte Bilder der Erkennung entgehen.
„Man sieht Leute sagen: ‚Nun, Twitter macht einen schlechten Job’“, sagte Matthew Green, außerordentlicher Professor am Johns Hopkins Information Security Institute. „Und dann stellt sich heraus, dass Twitter dieselbe PhotoDNA-Scanning-Technologie verwendet wie fast jeder.“
Der Jahresumsatz von Twitter – ca 5 Milliarden Dollar im Jahr 2021 – ist klein im Vergleich zu einem Unternehmen wie Google, das im vergangenen Jahr einen Umsatz von 257 Milliarden US-Dollar erzielte. Google hat die finanziellen Mittel, um ausgefeiltere Technologien zur Identifizierung von CSAM zu entwickeln, aber diese auf maschinellem Lernen basierenden Mechanismen sind nicht narrensicher. Meta verwendet auch Inhaltssicherheits-API von Google um CSAM zu erkennen.
„Diese neue Art experimenteller Technologie ist nicht der Industriestandard“, erklärte Green.
In Eins jüngsten Fall, bemerkte ein Vater, dass die Genitalien seines Kleinkindes geschwollen waren und schmerzten, also kontaktierte er den Arzt seines Sohnes. Im Vorfeld eines telemedizinischen Termins schickte der Vater Fotos von der Infektion seines Sohnes an den Arzt. Die Content-Moderation-Systeme von Google markierten diese medizinischen Bilder als CSAM und sperrten den Vater aus allen seinen Google-Konten. Die Polizei wurde alarmiert und begann mit Ermittlungen gegen den Vater, aber ironischerweise konnten sie ihn nicht erreichen, da seine Google-Fi-Telefonnummer abgeschaltet war.
„Diese Tools sind insofern leistungsfähig, als sie neue Dinge finden können, aber sie sind auch fehleranfällig“, sagte Green gegenüber Tech. „Maschinelles Lernen kennt nicht den Unterschied zwischen dem Senden von etwas an Ihren Arzt und dem tatsächlichen sexuellen Missbrauch von Kindern.“
Obwohl diese Art von Technologie eingesetzt wird, um Kinder vor Ausbeutung zu schützen, befürchten Kritiker, dass die Kosten für diesen Schutz – Massenüberwachung und Scannen personenbezogener Daten – zu hoch sind. Apple plante letztes Jahr die Einführung seiner eigenen CSAM-Erkennungstechnologie namens NeuralHash, aber das Produkt wurde verschrottet, nachdem Sicherheitsexperten und Befürworter des Datenschutzes darauf hingewiesen hatten, dass die Technologie leicht von Regierungsbehörden missbraucht werden könnte.
„Systeme wie dieses könnten über gefährdete Minderheiten berichten, einschließlich LGBT-Eltern an Orten, an denen Polizei und Gemeindemitglieder nicht freundlich zu ihnen sind“, schrieb Joe Mullin, ein Politikanalyst der Electronic Frontier Foundation, in ein Blogbeitrag. „Das System von Google könnte Eltern fälschlicherweise den Behörden in autokratischen Ländern oder an Orten mit korrupter Polizei melden, wo zu Unrecht beschuldigte Eltern nicht sicher sein können, dass ein ordnungsgemäßes Gerichtsverfahren durchgeführt wird.“
Das bedeutet nicht, dass soziale Plattformen nicht mehr tun können, um Kinder vor Ausbeutung zu schützen. Bis Februar hatte Twitter keine Möglichkeit für Benutzer, Inhalte mit CSAM zu kennzeichnen, was bedeutet, dass einige der schädlichsten Inhalte der Website nach Benutzermeldungen für längere Zeit online bleiben konnten. Letztes Jahr zwei Personen verklagte Twitter für angeblich profitieren aus Videos, die von ihnen als jugendliche Opfer des Sexhandels aufgenommen wurden; der Fall wird an das US Ninth Circuit Court of Appeals weitergeleitet. In diesem Fall behaupteten die Kläger, Twitter habe die Videos nicht entfernt, als sie darüber informiert wurden. Die Videos wurden über 167.000 Mal angesehen.
Twitter steht vor einem schwierigen Problem: Die Plattform ist groß genug, dass es fast unmöglich ist, alle CSAM zu erkennen, aber es verdient nicht genug Geld, um in robustere Sicherheitsmaßnahmen zu investieren. Entsprechend Der Bericht von The Verge, Elon Musks mögliche Übernahme von Twitter hat sich auch auf die Prioritäten der Gesundheits- und Sicherheitsteams des Unternehmens ausgewirkt. Letzte Woche hat Twitter angeblich sein Gesundheitsteam neu organisiert, um sich stattdessen auf die Identifizierung von Spam-Konten zu konzentrieren – Musk hat vehement behauptet, dass Twitter über die Verbreitung von Bots auf der Plattform lügt, und dies als Grund für seinen Wunsch angeführt, den 44-Milliarden-Dollar-Deal beenden zu wollen.
„Alles, was Twitter tut, ob gut oder schlecht, wird jetzt abgewogen im Hinblick auf ‚Wie wirkt sich das auf den Prozess aus? [with Musk]?” sagte Grün. „Es könnten Milliarden von Dollar auf dem Spiel stehen.“
Twitter reagierte nicht auf die Bitte von Tech um einen Kommentar.