Wirf einen Stein und du wirst wahrscheinlich einen Deepfake treffen. Die Kommerzialisierung generativer KI hat zu einer regelrechten Explosion gefälschter Online-Inhalte geführt: Laut der ID-Verifizierungsplattform Sumsub gab es von 2023 bis 2024 weltweit einen Anstieg der Deepfakes um das Vierfache. Im Jahr 2024 machten Deepfakes laut Sumsub 7 % aller Betrügereien aus , die von Identitätsdiebstahl und Kontoübernahmen bis hin zu raffinierten Social-Engineering-Kampagnen reichen.
Meta hofft, einen sinnvollen Beitrag zum Kampf gegen Deepfakes zu leisten und veröffentlicht ein Tool, mit dem sich nicht wahrnehmbare Wasserzeichen auf KI-generierte Videoclips anwenden lassen. Das am Donnerstag angekündigte Tool namens Meta Video Seal ist als Open Source verfügbar und für die Integration in bestehende Software konzipiert. Das Tool ergänzt die anderen Wasserzeichen-Tools von Meta, Watermark Anything (heute unter einer freizügigen Lizenz erneut veröffentlicht) und Audio Seal.
„Wir haben Video Seal entwickelt, um eine effektivere Video-Wasserzeichenlösung bereitzustellen, insbesondere zur Erkennung von KI-generierten Videos und zum Schutz der Originalität“, sagte Pierre Fernandez, KI-Forscher bei Meta, in einem Interview mit Tech.
Video Seal ist nicht die erste Technologie dieser Art. SynthID von DeepMind kann Videos mit Wasserzeichen versehen, und Microsoft verfügt über eigene Methoden zur Video-Wasserzeichenmarkierung.
Fernandez behauptet jedoch, dass viele bestehende Ansätze unzureichend seien.
„Obwohl es andere Wasserzeichen-Tools gibt, bieten sie keine ausreichende Robustheit gegenüber der Videokomprimierung, die beim Teilen von Inhalten über soziale Plattformen weit verbreitet ist. waren nicht effizient genug, um im großen Maßstab zu laufen; waren nicht offen oder reproduzierbar; oder wurden aus Bildwasserzeichen abgeleitet, was für Videos nicht optimal ist“, sagte Fernandez.
Zusätzlich zu einem Wasserzeichen kann Video Seal Videos mit einer versteckten Nachricht versehen, die später aufgedeckt werden kann, um deren Herkunft zu ermitteln. Meta behauptet, dass Video Seal gegen gängige Bearbeitungen wie Unschärfe und Zuschneiden sowie gängige Komprimierungsalgorithmen resistent ist.
Fernandez räumt ein, dass Video Seal bestimmte Einschränkungen aufweist, vor allem den Kompromiss zwischen der Erkennbarkeit der Wasserzeichen des Tools und ihrer allgemeinen Widerstandsfähigkeit gegenüber Manipulationen. Starke Komprimierung und erhebliche Bearbeitungen könnten die Wasserzeichen verändern oder unwiederbringlich machen, fügte er hinzu.
Das größere Problem für Video Seal besteht natürlich darin, dass Entwickler und Industrie kaum Gründe haben, es zu übernehmen, insbesondere diejenigen, die bereits proprietäre Lösungen verwenden. Um dem entgegenzuwirken, startet Meta eine öffentliche Rangliste, Meta Omni Seal Bench, die sich dem Vergleich der Leistung verschiedener Wasserzeichenmethoden widmet, und organisiert dieses Jahr einen Workshop zum Thema Wasserzeichen auf der ICLR, einer großen KI-Konferenz.
„Wir hoffen, dass immer mehr KI-Forscher und -Entwickler irgendeine Form von Wasserzeichen in ihre Arbeit integrieren“, sagte Fernandez. „Wir wollen mit der Industrie und der akademischen Gemeinschaft zusammenarbeiten, um auf diesem Gebiet schneller voranzukommen.“