Ein neues Startup, das sich zum Ziel gesetzt hat, die Geißel der Deepfakes zu bekämpfen gefälschte Beweise im Zeitalter der KI zeigt diese Woche seine Stärken auf der Startup Battlefield-Bühne beim Tech Disrupt 2024. ForceField baut eine Reihe von „zum Patent angemeldeten“ APIs mit dem Namen MARQ auf, von denen die erste zur Authentifizierung von Inhalten dient.
Für den Kontext ein 2022 Bericht Die europäische Strafverfolgungsbehörde Europol prognostizierte, dass bis 2026 90 % aller Online-Inhalte KI-generiert sein werden. Das Internet ist bereits überschwemmt von manipulierten Inhalten – entweder vollständig maschinell generiert oder mit Hilfe von KI erstellt – was große Technologieunternehmen dazu zwingt Entwickeln Sie neue Tools, um das Problem anzugehen. Google kündigte letzten Monat an, dass es bald damit beginnen werde, KI-generierte Bilder in seiner Suchmaschine zu kennzeichnen und damit in die Fußstapfen von Meta zu treten, das dies bereits auf Facebook und Instagram tat – wenn auch mit fragwürdiger Genauigkeit.
Auf YouTube können Nutzer inzwischen die Entfernung von Inhalten beantragen, die ihr Gesicht oder ihre Stimme simulieren.
Das Problem mit „gefälschten“ Inhalten verschwindet nicht und es ist ein Problem, das zu einer Vielzahl von Start-ups geführt hat, die das Problem mit verschiedenen Mitteln angehen, wie etwa Clarity, Reality Defender und Truepic, die alle beträchtliche Einnahmen erzielt haben Summen von namhaften Geldgebern in den letzten Jahren.
ForceField wiederum konzentriert sich auf die Geräteebene und nicht auf den Inhalt – das heißt beliebig Datenstrom auf jedem Gerät, auf dem die ForceField-Technologie vorhanden ist. Dies kann eine mobile App mit integrierter ForceField-API sein, oder das Videoverwaltungssystem einer Überwachungskamera oder die Hardware einer Drohne – sie kann in Echtzeit „zur Verifizierung signieren und hashen“.
„Chain-of-Custody“
ForceFields erstes Produkt mit dem Namen HashMarqüberprüft die eingereichten Inhalte und kennzeichnet sie als authentisch, versehen mit einem Authentizitätssiegel. Anstatt tangentiale Techniken wie z gegnerische KI (d. h. Bekämpfung von KI mit KI) oder Wasserzeichen: Die Forcefield-Technologie erstellt eine „Chain of Custody“, um die Herkunft festzustellen, indem sie herausfindet, ob ein bestimmter Inhalt geändert wurde – und zwar durch die Betrachtung von Metadaten aus Datenströmen und angeschlossenen Geräten. Worüber wir hier sprechen, ist die Blockchain-Technologie, allerdings Gründer und CEO von ForceField MC Spano (Bild oben) betont, dass es sich hierbei nicht um ein „web3“-Startup handelt.
„Wir nutzen Blockchain, wir verwenden keine Münzen oder Krypto – wir sind kein Web3-Unternehmen“, sagte Spano gegenüber Tech. „Wir nutzen Blockchain auf die ursprünglichste und zielgerichtetste Art und Weise, nämlich Smart Contracting. Wir authentifizieren alles, was gesammelt wird, wie ein Video, ein Foto, eine Audiodatei, einen Screenshot auf einem mobilen Gerät – aber wir sichern und authentifizieren auch alle Multimedia-Inhalte, die auf jedem IoT gesammelt werden, also auf allen Geräten, vom BlackBerry bis zum Roboter. Aber alle erfassten Streaming-Daten signieren wir, hashen sie und verwenden dann die Ledger-Technologie.“
Diese „intelligenten Verträge“ leben auf der Blockchain (obwohl ForceField nicht verrät, um welche es sich handelt), um ihre Sicherheit, Transparenz und Unveränderlichkeit zu gewährleisten – sie können nicht geändert werden. Unternehmenskunden – zu denen vom Chief Information Officer bis zum Vertrauens- und Sicherheitsteam alles gehören kann – können über eine API oder ein SDK auf die Technologie zugreifen und diese in ihre eigenen Anwendungen integrieren. HashMarq dient also im Grunde als digitales Zertifikat für Inhalte, die ihre Proof-Prüfungen bestanden haben.
„Wir bauen Technologie für die Guten – wir gehen davon aus, dass der Markt, das heißt Regierungen, Unternehmen, kleine Unternehmen und sogar Einzelpersonen, beweisen müssen, dass das, was sie in die Welt bringen, echt ist“, sagte Spano. „Dies wird mit etwas verglichen, was Meta und andere Unternehmen tun, wo sie im Grunde etwas kennzeichnen, das durch KI generiert wird.“
Worauf genau achtet die Technologie von ForceField bei der Beurteilung der Echtheit eines bestimmten Vermögenswerts?
„Wir prüfen etwa 90 Beweispunkte, aber ich kann nicht alle teilen“, sagte Spano. „Die Idee ist, dass wir uns die Geointelligenz rund um dieses Gerät ansehen, was sich zu dieser Zeit in der Nähe befand, welche Signale, welche anderen Geräte und die Zeit. Um wie viel Uhr hat dieses Gerät dieses Video konkret erfasst? Und wie lange hat es von der Sammlung bis zur Einreichung gedauert? Allein diese Punkte können Journalisten, Nachrichtenorganisationen oder Strafverfolgungsbehörden so viel mehr sagen, als sie ursprünglich hätten, und sie können auch einen geografischen Standort bestimmen.“
Obwohl ForceField offiziell im Jahr 2021 eingeführt wurde, sagt Spano, dass die Entstehung des Produkts im Jahr 2018 erfolgte, als sie in New York City angegriffen wurde und anschließend auf große Hindernisse sowohl bei der Sammlung als auch bei der Vorlage der von den Strafverfolgungsbehörden geforderten Beweise stieß.
„Ich wusste, dass es Kameras gab, ich wusste, dass die Beweise gesammelt werden konnten“, sagte Spano. „Aber als ich mich an das NYPD wandte, um die Beweise zu beschaffen, erhielten sie keine Vorladung – also musste ich selbst zum Besitzer der Kamera gehen, um das Filmmaterial anzufordern. Ich habe es mit meinem Handy aufgenommen, und als ich diese Aufnahme in das NYPD umwandelte, sagten sie, es sei nicht zulässig. Und da wurde mir klar, dass das Justizsystem viel früher beginnt als die Gerichte.“
Und das bringt den Kern des Problems auf den Punkt, das Spano und ForceField zu lösen versuchen – ein Problem, das im Zeitalter der generativen KI noch größer geworden ist, wo jeder mit einem Laptop in der Lage ist, plausible, aber völlig gefälschte „Beweise“ zu erstellen. ”
Proof-of-Concept
Es ist noch am Anfang, aber ForceField entwickelt einen Proof-of-Concept (PoC) mit Versicherungsriese Eriewährend Spano sagt, dass das Unternehmen auch Absichtserklärungen mit drei weiteren Kunden unterzeichnet hat, mit Plänen, den PoC abzuschließen und im ersten Quartal 2025 kommerziell zu starten.
Während Versicherungen zunächst ein großer Markt für ForceField sein werden, sagt Spano, dass es mit dem Aufkommen von KI und der Möglichkeit für nahezu jeden, authentisch aussehende Vermögenswerte zu erstellen, keine wirklichen Grenzen für die Branchen gibt, in denen es eingesetzt werden kann. Ein Bürgerjournalist, der beispielsweise ein Video auf seinem Mobilgerät aufgenommen hat, könnte es an einen Nachrichtensender senden, der sich in die ForceField-API integrieren würde, um die Authentizität der Quelldaten zu bestimmen. Auch Strafverfolgungsbehörden könnten die Technologie nutzen, um Aussagen von Zeugen oder Opfern zu überprüfen.
Was die Finanzierung betrifft, wurde das Unternehmen bisher durch eine Mischung aus Bootstrapping (Spano verkaufte ein früheres Unternehmen) und Kapital von Angels, darunter auch der Schauspielerin Debra Messing, finanziert Wilfredo FernandezXs Leiter für Regierungsangelegenheiten und Scout bei der VC-Firma Lightspeed. Auch ForceField hat über sein Unternehmen Geld erhalten Teilnahme an Techstars letztes Jahr, während das Unternehmen gerade seine erste institutionelle Finanzierung über eine strategische Investition seines Kunden Erie Insurance erhalten hat.
Spano sagte auch, dass sie hofft, bis Ende des Jahres eine Seed-Runde abschließen zu können, und fügte hinzu, dass ihrer Meinung nach einer der wichtigsten Aspekte des Unternehmens darin bestehe, dass es ein vollständig von Frauen geführtes Unternehmen in einem stark von Männern dominierten Umfeld sei.
„Hier in den USA gibt es ein wirklich großes Problem bei der Finanzierung von Solo-Frauenteams“, sagte Spano. „Ich bin derzeit die einzige Frau, die diese Art von Technologie entwickelt, alle anderen Konkurrenten werden alle von Männern geführt – daher ist es wirklich wichtig, die Stimme einer Frau, Transparenz, Ehrlichkeit und Wahrheit zu haben.“