OpenAI hat am Montag sein Videogenerierungstool Sora eingeführt. Das Unternehmen hat sich jedoch entschieden, eine wichtige Funktion bis zu weiteren Tests nicht für die meisten Benutzer freizugeben.
Die betreffende Funktion generiert ein Video anhand eines hochgeladenen Fotos oder Filmmaterials einer realen Person als Referenz. OpenAI sagt, dass es einer „Untergruppe“ von Sora-Benutzern Zugriff darauf geben wird, dass es die Funktion jedoch erst dann auf breiter Front einführen wird, wenn es die Möglichkeit hat, seinen „Sicherheitsansatz“ zu verfeinern.
„Die Möglichkeit, ein Video mit einem hochgeladenen Foto oder Video einer realen Person als ‚Samen‘ zu erstellen, ist ein Vektor potenziellen Missbrauchs, bei dem wir einen besonders schrittweisen Ansatz verfolgen, um aus frühen Nutzungsmustern zu lernen“, schrieb OpenAI in einem Artikel Blogbeitrag. „Erste Rückmeldungen von Künstlern deuten darauf hin, dass es sich um ein leistungsstarkes kreatives Werkzeug handelt, das sie schätzen. Angesichts des Missbrauchspotenzials stellen wir es jedoch zunächst nicht allen Nutzern zur Verfügung.“
Generatives Video ist ein mächtiges Werkzeug – und ein umstrittenes. Natürlich geben Deepfakes ebenso Anlass zur Sorge wie Fehlinformationen. Nach Laut Daten des ID-Verifizierungsdienstes Sumsub hat sich der Deepfake-Betrug weltweit von 2022 bis 2023 um mehr als das Zehnfache erhöht.
Neben anderen Maßnahmen, die OpenAI nach eigenen Angaben unternimmt, um Missbrauch zu verhindern, verfügt Sora über einen Filter, der erkennt, ob in einem generierten Video eine Person unter 18 Jahren abgebildet ist. Wenn dies der Fall ist, legt OpenAI einen „strengeren Schwellenwert“ für die Moderation in Bezug auf sexuelle, gewalttätige oder selbstbezogene Inhalte fest -schädliche Inhalte, behauptet das Unternehmen.
Alle von Sora generierten Videos enthalten Metadaten, um ihre Herkunft anzuzeigen – insbesondere Metadaten, die dem technischen C2PA-Standard entsprechen. Die Metadaten können entfernt und gewährt werden. Aber OpenAI schlägt es als eine Möglichkeit für Plattformen vor, die C2PA unterstützen, schnell zu erkennen, ob ein Video von Sora stammt.
Um Urheberrechtsbeschwerden abzuwehren, sagt OpenAI auch, dass es „promptes Umschreiben“ einsetzt, um Sora daran zu hindern, Videos im Stil eines lebenden Schöpfers zu erstellen.
„Wir haben sofortige Umschreibungen hinzugefügt, die ausgelöst werden sollen, wenn ein Benutzer versucht, ein Video im Stil eines lebenden Künstlers zu erstellen“, schrieb das Unternehmen. „Wir haben uns bei dieser Version von Sora für einen konservativen Ansatz entschieden, da wir mehr darüber erfahren, wie Sora von der kreativen Community verwendet wird … Es gibt eine sehr lange Tradition in der Kreativität, auf den Stilen anderer Künstler aufzubauen, aber wir schätzen, dass einige Schöpfer könnte Bedenken haben.“
Eine Reihe von Künstlern haben KI-Unternehmen, darunter OpenAI, verklagt, weil sie angeblich ohne Erlaubnis an ihren Werken trainiert haben, um KI-Tools zu erstellen, die Inhalte in ihren einzigartigen Stilen wiedergeben. Die Unternehmen ihrerseits haben behauptet, dass die Fair-Use-Doktrin sie vor Ansprüchen wegen Urheberrechtsverletzung schützt und dass KI-Modelle tatsächlich nicht wieder auftauchen.
Laut Videoblogger Marcus Brownlee, der eine erste Vorschau auf die Funktionen erhalten hat, kann Sora Videos aus einer Textaufforderung oder einem Bild erstellen und vorhandene Videos über ein Remix-Tool bearbeiten. Über eine Storyboard-Oberfläche können Benutzer Videosequenzen erstellen, während ein Blend-Tool zwei Videos aufnimmt und ein neues erstellt, das Elemente beider beibehält.
Abonnenten der ChatGPT Pro- und Plus-Pläne von OpenAI erhalten ab sofort Zugriff auf Sora, den Videogenerator von OpenAI – allerdings nur, wenn sie in bestimmten Ländern leben.