Eine Mehrheit im Repräsentantenhaus will Deepfakes in bestimmten Fällen verbieten. Experten bezweifeln, ob es dafür eines neuen Gesetzes bedarf. Zudem ist unklar, wer das Verbot von gefälschten Fotos und Videos durchsetzen soll und wie dies geschehen soll.
Met deepfaketechnologie kun je foto’s en video’s maken die echt lijken, maar niet echt zijn. Zo kun je bijvoorbeeld een politicus iets laten zeggen wat in werkelijkheid nooit is gebeurd. De beelden worden samengesteld met behulp van kunstmatige intelligentie.
Deepfakes kunnen worden gebruikt voor kwaadaardige doeleinden. Onlangs werd er nog een neppornofilm van Welmoed Sijtsma naar buiten gebracht. Een persoon had het hoofd van de tv-presentatrice op het lichaam van een pornoactrice geplakt.
Een ruime meerderheid van de Tweede Kamer wil deepfakes die worden gebruikt voor kwaadaardige doeleinden verbieden. Of daar daadwerkelijk een nieuwe wet voor komt, is nog niet zeker. Experts twijfelen of zo’n nieuwe wet überhaupt wel nodig is.
Das Verbreiten von Deepfakes ist bereits strafbar
ICT-Anwalt Arnoud Engelfried sagt nein. „Die Verbreitung von Deepfakes ist bereits nach bestimmten Gesetzen verboten“, sagt er gegenüber NU.nl. Es kann zum Beispiel unter Verleumdung und die Verbreitung von Rachepornos fallen, die beide bereits strafbar sind.
Minister Dilan Yesilgöz-Zegerius (Justiz und Sicherheit) erklärte ebenfalls in a Brief an das Parlament dass die Verbreitung von pornografischen Deepfakes bereits verboten ist. Darüber hinaus erließ das Gericht in Den Haag im vergangenen Jahr eine Verurteilung wegen der Herstellung eines sexuellen Deepfakes.
Theo Gevers, Professor für Computer Vision an der Universität Amsterdam, hält ein konkretes Verbot von pornografischen Deepfakes für eine gute Idee. „Das unerlaubte Erstellen und Verbreiten sexueller Bilder von jemand anderem, wie zum Beispiel Rachepornos, ist bereits strafbar. Es sollte gesetzlich klarer werden, dass auch pornografische Deepfakes erfasst werden.“
Ein totales Verbot von Deepfakes nennt er „Unsinn“. „Deepfakes können auch positiv sein. Sie dienen zum Beispiel der Traumaverarbeitung. Missbrauchte Frauen können dann mit dem Täter sprechen. Auch Apps wie die derzeit beliebte Lensa AI sind unschuldig.“
Neues Recht ist kaum durchsetzbar
Ein weiteres Problem bei einem Verbot ist laut Engelfried und Gevers die Durchsetzung. Das Scientific Research and Documentation Centre (WODC) hat Anfang dieses Jahres veröffentlicht ein Bericht dass ein solches Gesetz kaum durchgesetzt werden kann. Es sind zu viele gefälschte Fotos und Videos im Umlauf, um sie alle zu überprüfen.
Die Vollzugsmöglichkeiten werden derzeit geprüft. Um den Druck zu mindern, schlagen Forscher vor, die Herstellung, das Anbieten, die Nutzung und den Besitz von Deepfake-Technologie für den Verbrauchermarkt zu verbieten.
Wer für die Durchsetzung zuständig sein wird, ist noch unklar. Laut dem Minister müssen Social-Media-Plattformen gefälschte Bilder fernhalten, und Opfer können eine Beschwerde bei der niederländischen Datenschutzbehörde einreichen.
Auch die Polizei kann eine Rolle spielen. „Statt ein neues Gesetz zu machen, sollte man sich besser anschauen, was die Polizei braucht, um so ein Verbot durchzusetzen“, sagt Engelfriet.