En février 2021, les parents d’un bambin américain ont contacté un médecin. Le bambin avait une infection sur ses organes génitaux. À la demande du médecin, le père du garçon a pris une photo de l’infection et a envoyé la photo au médecin.
Deux jours plus tard, l’homme ne pouvait plus se connecter à son compte Google. Selon Google, l’homme avait violé les directives de l’entreprise. La liste des raisons possibles comprenait «l’abus sexuel et l’exploitation des enfants». L’homme s’est immédiatement rendu compte que la photo de son fils en était probablement la cause.
Google scanne le service de stockage en nuage Google Drive avec l’intelligence artificielle depuis 2018. Ce système est formé pour reconnaître les images d’abus sexuels. Sur la photo, l’homme tenait les parties génitales de son fils pour pouvoir photographier correctement l’infection. Cela a été signalé comme un acte sexuel par le système de Google.
Google a immédiatement signalé à la police
L’homme a contacté Google pour rectifier le malentendu. Google a signalé qu’il n’était pas possible de récupérer le compte car un rapport avait déjà été fait à la police. La police devait évaluer s’il y avait eu abus sexuel.
En décembre 2021, neuf mois plus tard, l’homme reçoit une lettre de la police. Il a déclaré qu’une enquête majeure avait eu lieu. La police avait précédemment enquêté sur ses recherches sur Internet, son historique de localisation, ses messages et tous les documents, photos et vidéos sur Google Drive.
La police avait conclu qu’il n’y avait pas eu de maltraitance d’enfant et avait déclaré que l’enquête était close. Cependant, l’homme n’a pas récupéré son compte Google.
Google avait déjà définitivement supprimé son compte. En conséquence, l’homme a perdu de nombreuses données personnelles, notamment des photos et des vidéos de ses enfants. L’homme réclame désormais 7 000 $ (plus de 6 900 euros) de dommages et intérêts à Google.
Des millions de signalements de pédopornographie par an
Les entreprises technologiques marquent des images d’abus sexuels des millions de fois par an. Selon Le New York Times Google a fait plus de 600 000 signalements de pédopornographie en 2021. En conséquence, Google a bloqué les comptes de plus de 270 000 utilisateurs.
On ne sait pas combien de comptes sont incorrectement bloqués. L’intelligence artificielle de Google peut rapidement détecter la maltraitance des enfants. Cela signifie que les enfants dans le besoin peuvent être secourus rapidement. Cependant, il produit également de faux rapports.