KI-generierte Bilder und andere Formen von Deepfakes, die sexuellen Kindesmissbrauch (CSA) darstellen, könnten in der Europäischen Union im Rahmen von Plänen zur Aktualisierung bestehender Rechtsvorschriften, um mit der technologischen Entwicklung Schritt zu halten, kriminalisiert werden Kommission heute bekannt gegeben.
Außerdem wird vorgeschlagen, einen neuen Straftatbestand für das Livestreaming von sexuellem Kindesmissbrauch einzuführen. Der Besitz und Austausch sogenannter „Pädophilenhandbücher“ würde im Rahmen des Plans ebenfalls unter Strafe gestellt – was Teil eines umfassenderen Maßnahmenpakets ist, das nach Angaben der EU die Prävention von CSA fördern soll, unter anderem durch die Sensibilisierung für Online-Risiken; und es den Opfern zu erleichtern, Straftaten anzuzeigen und Unterstützung zu erhalten (einschließlich der Gewährung eines Rechts auf finanzielle Entschädigung).
Der Vorschlag zur Aktualisierung der aktuellen EU-Vorschriften in diesem Bereich, die aus dem Jahr 2011 stammen, umfasst auch Änderungen im Zusammenhang mit der obligatorischen Meldung von Straftaten.
Bereits im Mai 2022 legte die Kommission einen separaten Gesetzesentwurf im Zusammenhang mit CSA vor, der darauf abzielt, einen Rahmen zu schaffen, der digitale Dienste verpflichten könnte, automatisierte Technologien zu nutzen, um bestehendes oder neues Material zum sexuellen Missbrauch von Kindern (Child Sexual Abuse Material, CSAM), das im Umlauf ist, zu erkennen und zu melden auf ihren Plattformen und identifizieren und melden Sie Grooming-Aktivitäten, die auf Kinder abzielen.
Der CSAM-Scanning-Plan hat sich als äußerst kontrovers erwiesen – und er spaltet weiterhin die Gesetzgeber im Parlament und im Rat, schürt den Verdacht über die Verbindungen der Kommission zu Lobbyisten für Kindersicherheitstechnologie und wirft andere unangenehme Fragen für die EU-Exekutive auf. über einen rechtlich fragwürdigen Vorstoß in mikrotargetierte Anzeigen, um für den Vorschlag zu werben.
Die Entscheidung der Kommission, bei der Bekämpfung von CSA den Schwerpunkt auf digitale Messaging-Plattformen zu legen, hat viel Kritik hervorgerufen, da sich die Gesetzgeber der Union auf den falschen Bereich zur Bekämpfung eines komplexen gesellschaftlichen Problems konzentrieren – was möglicherweise zu einem gewissen Druck geführt hat, Maßnahmen zu ergreifen Vorschläge. (Die Kommission sagt das natürlich nicht; sie beschreibt das heutige Paket als „Ergänzung“ zu ihrem früheren CSAM-Scanning-Vorschlag.)
Allerdings ist selbst in den weniger als zwei Jahren seit der Vorstellung des umstrittenen Plans zum Scannen privater Nachrichten ein massiver Anstieg der Aufmerksamkeit für die Risiken im Zusammenhang mit Deepfakes und KI-generierten Bildern zu verzeichnen, einschließlich der Besorgnis, dass die Technologie zur Erstellung von CSAM missbraucht wird; und befürchtet, dass dieser synthetische Inhalt es für die Strafverfolgungsbehörden noch schwieriger machen könnte, echte Opfer zu identifizieren. Der virale Boom der generativen KI hat den Gesetzgebern also einen klaren Anreiz gegeben, die Regeln zu überdenken.
„Sowohl die zunehmende Online-Präsenz von Kindern als auch die technologischen Entwicklungen schaffen neue Möglichkeiten für Missbrauch“, schlägt die Kommission heute in einer Pressemitteilung vor. Es sagt auch Ziel des Vorschlags ist es, „die allgegenwärtige Straflosigkeit bei sexuellem Missbrauch und sexueller Ausbeutung von Kindern im Internet zu verringern“.
Eine Folgenabschätzung, die die Kommission vor der Vorlage des Vorschlags durchführte, identifizierte die zunehmende Online-Präsenz von Kindern und die „neuesten technologischen Entwicklungen“ als Bereiche, die neue Möglichkeiten für die Umsetzung von CSA schaffen. Sie erklärte außerdem, sie sei besorgt über die Unterschiede in den rechtlichen Rahmenbedingungen der Mitgliedstaaten, die Maßnahmen zur Missbrauchsbekämpfung behindern. und möchte die derzeitigen „begrenzten“ Bemühungen zur Prävention von CSA und zur Unterstützung von Opfern verbessern.
„Die sich schnell weiterentwickelnden Technologien schaffen neue Möglichkeiten für den sexuellen Missbrauch von Kindern im Internet und stellen die Strafverfolgung vor Herausforderungen bei der Untersuchung dieses äußerst schweren und weit verbreiteten Verbrechens“, fügte Ylva Johansson, Kommissarin für Inneres, in einer unterstützenden Erklärung hinzu. „Ein starkes Strafrecht ist von wesentlicher Bedeutung, und heute unternehmen wir einen wichtigen Schritt, um sicherzustellen, dass wir über wirksame rechtliche Instrumente verfügen, um Kinder zu retten und Täter vor Gericht zu stellen.“ Wir kommen unseren Verpflichtungen nach, die wir in der im Juli 2020 vorgelegten EU-Strategie für einen wirksameren Kampf gegen sexuellen Missbrauch von Kindern eingegangen sind.“
Im Hinblick auf Online-Sicherheitsrisiken für Kinder zielt der Vorschlag der Kommission darauf ab, die Mitgliedstaaten zu mehr Investitionen in die „Sensibilisierung“ zu ermutigen.
Wie beim CSAM-Scanning-Plan wird es Sache der EU-Gesetzgeber im Parlament und im Rat sein, die endgültige Form der Vorschläge festzulegen. Und die Zeit für Gespräche im Vorfeld der Parlamentswahlen und einer Neubesetzung des Kollegiums der Kommissare später in diesem Jahr ist begrenzt – auch wenn sich die heutigen Vorschläge zur CSA-Bekämpfung möglicherweise als weniger spaltend erweisen als der Plan zum Nachrichtenscannen. Es besteht also die Möglichkeit, dass es angenommen wird, während das andere ins Stocken gerät.
Wenn eine Einigung darüber erzielt wird, wie die aktuelle Richtlinie zur Bekämpfung von CSA geändert werden soll, würde sie nach Angaben der Kommission 20 Tage nach ihrer Veröffentlichung im Amtsblatt der EU in Kraft treten.