Das Programm „Night Fury“ versuchte, mithilfe automatisierter Methoden angeblich „terroristische“ Social-Media-Konten aufzuspüren
Das US-Heimatschutzministerium betrieb ein Programm, das darauf abzielte, die Einstufung von Social-Media-Nutzern als „Pro-Terroristen“ auf der Grundlage ihrer Verwendung bestimmter Schlüsselwörter und der Interaktion mit anderen Zielnutzern zu automatisieren, wie aus Dokumenten hervorgeht, die dem Brennan Center for Justice und vorliegen veröffentlicht am Dienstag. Project Night Fury, eine Partnerschaft zwischen dem DHS und der University of Alabama in Birmingham, versuchte, potenziell „pro-terroristischen“ Konten einen „Risikowert“ zuzuweisen, der sich dann auf andere Konten auswirken würde, mit denen sie interagierten. Die Universität hatte zugestimmt, automatisierte Methoden zu entwickeln, um anhand von Kriterien wie „Schlüsselwortsatzvergleiche“ festzustellen, ob ein Konto, das mit einem bereits überwachten Konto verknüpft ist, selbst „terroristisch“ ist. Der Algorithmus, nicht ein Mensch, würde bestimmen, ob ein Benutzer als „Pro-Terrorist“ eingestuft werden kann, weil er einfach in einem Facebook-Beitrag auf „Gefällt mir“ klickt oder einen Account retweetet, der dieses Label bereits erhalten hat. Trotz der bekannten Grenzen der künstlichen Intelligenz bei der Formulierung dieses Systems im Jahr 2018 wäre der gesamte Prozess den Dokumenten zufolge automatisiert gewesen. Die Universität wurde beauftragt, Modelle zu entwickeln, um „wichtige Einflussfaktoren des pro-terroristischen Denkens zu identifizieren“ und ein automatisiertes System zu schaffen, um Bots aufzudecken, die „programmgesteuert generiert wurden, um Einfluss auszuüben“, um sowohl „terroristische Propaganda“ als auch „Kampagnen zur ausländischen Einflussnahme“ zu verbreiten. Anschließend stellten sie eine Liste verdächtiger Konten zusammen und übergaben sie zusammen mit ihren Namen, E-Mail-Adressen, Telefonnummern, Bildern und Beiträgen an das DHS. In den Verträgen fehlten Definitionen wichtiger Konzepte, etwa was „Pro-Terrorist“ eigentlich bedeutete – oder was ein „Risiko-Score“ messen würde, ob es sich um das Risiko handelte, ein Terrorist zu werden oder einfach nur mit einem zu sympathisieren – oder eine Erklärung, wie ein Ein automatisierter Prozess könnte solche Unterscheidungen ohne klare Definitionen treffen. Es ist auch nicht klar, wie das Programm zwischen terroristischen Inhalten und Material im Zusammenhang mit Drogenhandel und „Desinformation“ unterschieden hätte, die es ebenfalls verfolgen wollte. Als die Verträge vom Brennan Center eingesehen wurden, hatte das DHS noch nicht herausgefunden, wie man die Sympathien für Terroristen quantifiziert, und suchte Unterstützung bei Universitätsforschern, um „relevante Merkmale zu identifizieren“. Der DHS-Generalinspekteur wurde 2018 auf mögliche Datenschutzverletzungen beim Project Night Fury hingewiesen, und bis der FOIA-Anfrage des Brennan Centers nachgekommen wurde, stammte alles, was über das Projekt bekannt war, aus dem Bericht des OIG aus dem Jahr 2019, in dem die an dem Projekt beteiligten Agenten ermittelt wurden hat die Richtlinien der Abteilung zum Datenschutz und zum Schutz sensibler Informationen nicht eingehalten. Obwohl das DHS angeblich die Arbeit an Night Fury im Jahr 2019 eingestellt hat, ist nicht bekannt, wie weit das Projekt fortgeschritten ist oder ob seine Vermögenswerte an eine andere Stelle innerhalb des Strafverfolgungsapparats übertragen wurden. Kürzlich wurde festgestellt, dass der Zoll- und Grenzschutz ein ähnliches KI-gestütztes Tool namens Babel X verwendet, um die Social-Media-Konten von Reisenden an der US-Grenze auszuspionieren.
: