Die Europäische Kommission hat diesen Monat einen Gesetzentwurf mit harten Maßnahmen gegen die Verbreitung von Kindesmissbrauch im Internet vorgelegt. In diesem Artikel beantworten wir drei Fragen, die auf der Reaktionsplattform NUjij gestellt wurden.
Freiwillige Maßnahmen von Tech-Unternehmen gegen das Teilen von Kindesmissbrauch auf Internetplattformen sind nicht effektiv genug, findet die Kommission. Deshalb müssen Unternehmen viel aktiver nach geteilten Missbrauchsbildern suchen, indem sie beispielsweise Chatnachrichten scannen.
Da Chat-Apps wie WhatsApp und Signal die Nachrichten der Benutzer verschlüsseln, kann niemand außer Sender und Empfänger die Gespräche lesen. Dies macht es für Technologieunternehmen und Behörden sehr schwierig, illegale Bilder zu erkennen. Kritiker sagen, dass bei Umwegen die Privatsphäre der europäischen Bürger gefährdet sei.
Derzeit ist ein Gesetzentwurf bei der Europäischen Kommission anhängig. Die Mitgliedstaaten und das Europäische Parlament müssen sich noch mit dem Text befassen, bevor das Gesetz verabschiedet wird.
Werde ich bestraft, wenn ich Fotos von meinem Kind in der Badewanne auf WhatsApp mit meinem Partner teile?
Die Europäische Kommission will das Teilen von Bildern mit Kindesmissbrauch reduzieren. Eltern, die normale Fotos ihrer Kinder teilen, sind nicht Ziel der Maßnahme.
Mit einer Technologie, die clientseitiges Scannen von Geräten heiß, wäre es möglich, Gespräche auf schädliche Inhalte zu scannen. Dazu werden Datenbanken verwendet, in denen bekannte Missbrauchsfotos gespeichert sind.
Daten von bekannten Missbrauchsbildern (oder Texten) können verwendet werden clientseitiges Scannen von Geräten vollständig automatisiert im Vergleich zu geteilten Bildern in Chats, auch wenn sie verschlüsselt sind.
Was ist, wenn Bilder so modifiziert werden, dass sie unter dem Radar bleiben?
Die bekannten Bilder aus den Datenbanken haben einen einzigartigen digitalen Fingerabdruck, mit dem sie gefunden werden können. Wenn ein Bild angepasst wird, ändert sich auch dieser Fingerabdruck.
Es ist möglich, dass die Europäische Kommission noch einen Schritt weiter geht und irgendeine Form von künstlicher Intelligenz einsetzt. Er kann Muster von Kindesmissbrauch und Sprache erkennen, die Teil des Groomings sind, also digitale Kinderköder.
Was ist, wenn Zweifel am Inhalt eines Bildes bestehen?
Die Aufdeckung von Kinderpornografie und Missbrauch erfolgt immer automatisch und anonym, verspricht die Kommission. „Die allerbeste Technologie gewährleistet die höchste Effektivität, während die Auswirkungen auf die Privatsphäre der Menschen minimal bleiben.“
Dem Gesetzentwurf zufolge findet eine menschliche Kontrolle nur dann statt, wenn es Hinweise auf sexuellen Missbrauch von Kindern in einem bestimmten Bild, Video oder einer Nachricht gibt. Die Prüfung stellt sicher, dass offensichtlich falsch registrierte Bilder nicht an die Behörden weitergegeben werden.
Nach Angaben der Kommission werden Bilder, in denen kein Kindesmissbrauch festgestellt wurde, an die Internetplattformen zurückgesendet. Beispielsweise müssen Erkennungssysteme immer besser werden. Dies könnte dazu führen, dass menschliches Eingreifen immer weniger notwendig wird.