Les projets européens visant à détecter les abus sur enfants en ligne en analysant les services de chat ont suscité de nombreuses critiques de la part des experts. Lors de discussions avec le Parlement européen, ils mettent en garde contre de graves violations de la vie privée. Il existe également de nombreux problèmes de faisabilité technique.
Les sociétés Internet doivent prendre des mesures contre la diffusion d’images d’abus sur des enfants et contre le toilettage (online child toilettage). La Commission européenne travaille sur une législation qui garantira que les entreprises analysent les e-mails, les messages de chat et le stockage cloud des utilisateurs pour détecter la présence éventuelle de ce type de contenu illégal.
Mais ces projets se heurtent à de vives critiques. Car pour analyser les messages, la sécurité des applications doit être ajustée. Cela a des conséquences sur la vie privée des utilisateurs, ont prévenu lundi des experts au Parlement européen. Le Parlement lui-même critique également le projet de loi.
Par exemple, la députée Birgit Sippel estime que la proposition agit trop tard. « Le texte se concentre sur la lutte contre une violation après qu’elle a eu lieu. Il n’est pratiquement pas fait mention de solutions préventives. »
Chance possible de fouineurs
Les messages sur la plupart des applications de chat, telles que WhatsApp, sont désormais envoyés cryptés. Cela signifie que seuls l’expéditeur et le destinataire peuvent les lire. Ce cryptage est brisé avec un scanner, soulignent les experts. « Et il n’y a pas que les gentils qui peuvent lire », déclare Alexander Hanff, expert en protection des données. Il prévient également que le scanner pourrait créer un précédent.
Dans un premier temps, un tel système est utilisé pour détecter la maltraitance des enfants, mais les autorités pourraient ensuite l’utiliser également pour détecter d’autres violations. Europol y travaille déjà, déclare la députée Saskia Bricmont.
En violant la vie privée, la loi peut même être contre-productive. De nombreux enfants utilisent des applications de chat pour découvrir leur orientation sexuelle, par exemple. Ils partagent aussi parfois des images nues avec autorisation. Les experts craignent que s’ils savent que les messages sont analysés, ils seront probablement plus réticents à le faire.
La technologie n’est pas encore assez performante
Il existe également de nombreuses objections techniques. Les algorithmes commettent encore de nombreuses erreurs lors de la recherche de méthodes de numérisation. « Lorsque nous analysons des milliards d’appareils, de nombreuses accusations injustifiées surgissent », explique Hanff. « Cela créerait également des victimes, par exemple des jeunes qui partagent des images avec autorisation, mais qui font ensuite l’objet d’une enquête. »
Une solution fréquemment évoquée pour détecter les abus sur enfants en ligne est ce qu’on appelle analyse côté client. Le contenu des messages est analysé avant leur envoi.
Mais il s’agit d’une nouvelle technique qui n’a pas encore fait l’objet de recherches approfondies. « Et voilà », déclare le professeur d’informatique Matthew Green de l’Université Johns Hopkins. « Donnez-nous plus de temps pour rechercher des moyens sûrs d’utiliser cela avant de le promulguer dans la loi. »