In Zusammenarbeit mit Google Cloud entsteht Google Deepmind, die KI-Forschungsabteilung von Google starten ein Tool zum Wasserzeichen und Identifizieren von KI-generierten Bildern. Aber nur Bilder, die mit dem eigenen Bildgenerierungsmodell von Google erstellt wurden.
Das Tool mit dem Namen SnythID ist in der Betaversion für ausgewählte Nutzer von Vertex AI verfügbar, Googles Plattform zum Erstellen von KI-Apps und -Modellen. Es bettet ein digitales Wasserzeichen direkt in die Pixel eines Bildes ein – so dass es für das menschliche Auge scheinbar nicht wahrnehmbar, für einen Algorithmus jedoch erkennbar ist . SynthID unterstützt nur Imagen, das Text-zu-Bild-Modell von Google, das exklusiv in Vertex AI verfügbar ist.
Google vorher sagte, es würde Metadaten einbetten, um visuelle Medien zu signalisieren, die von generativen KI-Modellen erstellt wurden. SynthID geht offensichtlich noch einen Schritt weiter.
„Während generative KI ein enormes kreatives Potenzial freisetzen kann, birgt sie auch neue Risiken, etwa indem sie es den Urhebern ermöglicht, falsche Informationen zu verbreiten – ob absichtlich oder unabsichtlich“, schreibt DeepMind in einem Blogbeitrag. „Die Fähigkeit, KI-generierte Inhalte zu identifizieren, ist von entscheidender Bedeutung, um Menschen darüber zu informieren, wann sie mit generierten Medien interagieren, und um die Verbreitung von Fehlinformationen zu verhindern.“
DeepMind behauptet, dass SynthID, das es entwickelt und mit Google Research, dem Forschungs- und Entwicklungsteam von Google, verfeinert hat, auch nach Modifikationen wie dem Hinzufügen von Filtern, dem Ändern der Farben und der starken Komprimierung von Bildern an Ort und Stelle bleibt. Das Tool nutzt zwei KI-Modelle, eines zum Wasserzeichen und eines zur Identifizierung, die gemeinsam an einem „verschiedenen“ Satz von Bildern trainiert wurden, sagt DeepMind.
Bildnachweis: DeepMind
SynthID kann mit Wasserzeichen versehene Bilder nicht mit 100-prozentiger Sicherheit identifizieren. Das Tool unterscheidet jedoch zwischen Instanzen, in denen ein Bild vorliegt könnte ein Wasserzeichen enthalten, im Gegensatz zu einem Bild sehr wahrscheinlich einen enthalten.
„SynthID ist nicht narrensicher gegen extreme Bildmanipulationen, bietet aber einen vielversprechenden technischen Ansatz, um Menschen und Organisationen in die Lage zu versetzen, verantwortungsvoll mit KI-generierten Inhalten zu arbeiten“, schreibt DeepMind im Blogbeitrag. „Dieses Tool könnte sich auch zusammen mit anderen KI-Modellen und -Modalitäten weiterentwickeln, die über Bilder wie Audio, Video und Text hinausgehen.“
Wasserzeichentechniken für generative Kunst sind nicht neu. Das im Jahr 2020 gegründete französische Startup Imatag bietet ein Wasserzeichen-Tool an, von dem es behauptet, dass es nicht durch Größenänderung, Zuschneiden, Bearbeiten oder Komprimieren von Bildern beeinträchtigt wird, ähnlich wie SynthID. Eine andere Firma, Steg.AI, verwendet ein KI-Modell, um Wasserzeichen anzubringen, die Größenänderungen und andere Änderungen überstehen.
Doch der Druck auf Technologiefirmen steigt, eine Möglichkeit bereitzustellen, deutlich zu machen, dass Werke durch KI erstellt wurden.
Kürzlich hat Chinas Cyberspace Administration Vorschriften erlassen, die verlangen, dass Anbieter generativer KI generierte Inhalte – einschließlich Text- und Bildgeneratoren – kennzeichnen, ohne die Benutzernutzung zu beeinträchtigen. Und in den jüngsten Anhörungen des US-Senatsausschusses sagte Senatorin Kyrsten Sinema (I-AZ) betont die Notwendigkeit von Transparenz in der generativen KI, auch durch die Verwendung von Wasserzeichen.
Im Mai verpflichtete sich Microsoft auf seiner jährlichen Build-Konferenz, KI-generierte Bilder und Videos „unter Verwendung kryptografischer Methoden“ mit Wasserzeichen zu versehen. An anderer Stelle haben Shutterstock und das generative KI-Startup Midjourney übernommen Richtlinien um eine Markierung einzubetten, dass der Inhalt von einem generativen KI-Tool erstellt wurde. Und DALL-E 2 von OpenAI, ein Text-zu-Bild-Tool, fügt unten rechts in die von ihm generierten Bilder ein kleines Wasserzeichen ein.
Doch bisher hat sich ein gemeinsamer Wasserzeichenstandard – sowohl für die Erstellung als auch für die Erkennung von Wasserzeichen – als schwer fassbar erwiesen.
SynthID wird, wie die anderen vorgeschlagenen Technologien, für keinen Bildgenerator nützlich sein ist nicht Imagen – zumindest nicht in seiner aktuellen Form. DeepMind erwägt, SynthID in naher Zukunft auch Dritten zur Verfügung zu stellen. Aber ob Dritte – insbesondere Dritte, die Open-Source-KI-Bildgeneratoren entwickeln, bei denen viele der Leitplanken von Generatoren hinter einer API fehlen – die Technologie übernehmen werden, ist eine ganz andere Frage.