Googles Inkubator-Tochter Puzzle hat ein Tool zur Terrorismusbekämpfung als Open Source zur Verfügung gestellt, das kleineren Unternehmen dabei helfen soll, gegen extremistische Inhalte vorzugehen, die über ihre Online-Plattformen geteilt werden.
Während die meisten großen Technologieunternehmen, darunter Meta, X und Google selbst, gut darin sind, Inhalte zu moderieren und illegale oder schädliche Inhalte auszusortieren, übersteigen die dafür erforderlichen Ressourcen die Möglichkeiten vieler kleinerer digitaler Akteure. Dies ist besonders problematisch in einer Zeit, in der Gesetze wie der europäische Digital Services Act (DSA) und terrorismusspezifische Inhaltsregeln Unternehmen zunehmend unter Druck setzen, illegale Inhalte umgehend zu entfernen.
Jigsaw, das vor seiner Umbenennung im Jahr 2016 als Google Ideas bekannt war, konzentriert sich auf die Entwicklung und Erprobung neuer Produkte, die gesellschaftliche Probleme wie Desinformation, Zensur und die Verbreitung von toxischen und extremistischen Inhalten im Internet angehen. Im vergangenen November hat Jigsaw angekündigt ein neues Online-Inhaltsmoderationstool namens Höhedas Moderatoren dabei hilft zu überprüfen, ob der Inhalt auf ihren Plattformen mit dem übereinstimmt, was in Datenbanken von Drittanbietern markiert wurde, anstatt ihn bei jeder Quelle einzeln prüfen zu müssen.
Altitude wurde entwickelt in Zusammenarbeit mit Technologie gegen Terrorismuseine Initiative, die 2017 vom Exekutivdirektorat des Anti-Terror-Komitees der Vereinten Nationen (CTED) ins Leben gerufen wurde. Die Aufgabe von Tech Against Terrorism besteht darin, die Technologiebranche bei der Entwicklung wirksamerer Instrumente zu unterstützen, um die Nutzung des Internets durch Terroristen zur Verbreitung schädlicher Inhalte zu bekämpfen. Das Instrument wurde auch in Zusammenarbeit mit entwickelt Branchengeführtes Unternehmen Global Internet Forum to Counter Terrorism (GIFCT), zu dessen Mitgliedern die meisten großen Technologieunternehmen zählen.
Neun Monate später übergibt Jigsaw Altitude nun offiziell an Tech Against Terrorism, das die Entwicklung und Wartung fortführen wird. Code ist jetzt auch auf GitHub verfügbar unter einer Apache 2.0-Lizenz, was bedeutet, dass Unternehmen das Tool selbst hosten können und Dritte den Code prüfen können.
So funktioniert Altitude
Altitude stützt sich auf „vertrauenswürdige“ Datenquellen wie GIFCT, deren Mitglieder ihre geschützten Informationen bündeln, um automatisierte Tools zur Inhaltsmoderation (wie Altitude) zu betreiben, sowie auf Tech Against Terrorisms eigene Plattform zur Analyse terroristischer Inhalteeine Datenbank mit in Echtzeit verifizierten terroristischen Inhalten. Vertrauenswürdige Quellen identifizieren und kennzeichnen diese Art von Inhalten mit ihren eigenen Methoden.
Durch die Einbindung in diese Datenbanken konsolidiert Altitude die sogenannten „terroristischen und gewalttätigen extremistischen Inhalte“ (TVEC) in einer einzigen Ansicht. Moderatoren können Inhalte schnell anzeigen, überprüfen und entfernen und ihren Verpflichtungen in der jeweiligen Gerichtsbarkeit nachkommen, in der sie tätig sind. Es ist anzumerken, dass keine Inhalte automatisch entfernt werden. Es geht lediglich darum, potenziell extremistische Inhalte zu kennzeichnen und Warnungen bereitzustellen, damit Menschen sie bewerten können.
Weder Jigsaw noch Tech Against Terrorism haben die Plattformen bekannt gegeben, die Altitude während der ersten Testphase genutzt haben. Am wahrscheinlichsten ist jedoch, dass es von folgenden Anwendungen genutzt wird: Messaging-Apps, URL-Verkürzungsdienste, Video-Hosting-Sites, Online-Foren, soziale Netzwerke und Pastebins.
Jigsaw schrieb in einem Blogbeitrag Montag:
Im Laufe eines Jahres führte Jigsaw Interviews mit Gründern, Vertrauens- und Sicherheitsverantwortlichen sowie TVEC-Inhaltsprüfern auf elf Plattformen unterschiedlicher Größe. Zu den Plattformen gehörten Bild-Sharing-Plattformen, Social-Media-Sites, URL-Verkürzungsdienste sowie Datei- und Textspeicherseiten. Wir stellten fest, dass die Plattformen über eine gewisse Ressourcenausstattung und Bereitschaft zur Verwaltung von TVEC verfügten und dass dieser Bereitschaftsgrad nicht genau mit der Größe ihrer Organisation oder Benutzerbasis zusammenhing. Selbst relativ ausgereiften Diensten fehlten manchmal noch Signale, um Schäden auf ihrer Plattform proaktiv zu identifizieren. Wir sahen auch, dass sie zwar letztendlich lieber alle Tools in eine interne Plattform integrieren würden, eine separate Schnittstelle für dedizierte Schäden jedoch einen Einstieg in einer unterfinanzierten Umgebung bieten könnte.
Da es sich um ein Open-Source-Projekt handelt, kann jedes Unternehmen Altitude in seine eigenen Plattformen integrieren oder mit Tech Against Terrorism zusammenarbeiten, um „maßgeschneiderte Onboarding-Unterstützung“ zu erhalten.
Jigsaw und Tech Against Terrorism sagen, dass sie in Zukunft möglicherweise „spezialisierte Datenbanken“ zu den Datenquellen hinzufügen werden, und sie planen, das Tool über die englische Sprache hinaus zu erweitern.