Im Februar 2021 kontaktierten die Eltern eines amerikanischen Kleinkindes einen Arzt. Das Kleinkind hatte eine Infektion an seinen Genitalien. Auf Wunsch des Arztes machte der Vater des Jungen ein Foto von der Infektion und schickte das Bild an den Arzt.
Zwei Tage später konnte sich der Mann nicht mehr in sein Google-Konto einloggen. Laut Google hatte der Mann gegen die Richtlinien des Unternehmens verstoßen. Die Liste möglicher Gründe umfasste „sexuellen Missbrauch und Ausbeutung von Kindern“. Dem Mann war sofort klar, dass vermutlich das Foto seines Sohnes die Ursache war.
Google scannt seit 2018 den Cloud-Speicherdienst Google Drive mit künstlicher Intelligenz. Dieses System ist darauf trainiert, Bilder von sexuellem Missbrauch zu erkennen. Auf dem Foto hielt der Mann die Genitalien seines Sohnes fest, um die Infektion richtig fotografieren zu können. Dies wurde vom Google-System als sexuelle Handlung gekennzeichnet.
Google erstattete sofort Anzeige bei der Polizei
Der Mann kontaktierte Google, um das Missverständnis auszuräumen. Google meldete, dass eine Wiederherstellung des Kontos nicht möglich sei, da bereits Anzeige bei der Polizei erstattet worden sei. Die Polizei musste prüfen, ob sexueller Missbrauch vorlag.
Im Dezember 2021, neun Monate später, erhielt der Mann einen Brief von der Polizei. Darin hieß es, dass eine große Untersuchung stattgefunden habe. Die Polizei hatte zuvor seine Internetrecherchen, den Standortverlauf, Nachrichten und alle Dokumente, Fotos und Videos auf Google Drive untersucht.
Die Polizei war zu dem Schluss gekommen, dass kein Kindesmissbrauch vorlag, und teilte mit, dass die Ermittlungen eingestellt wurden. Seinen Google-Account bekam der Mann jedoch nicht zurück.
Google hatte sein Konto bereits dauerhaft gelöscht. Dadurch hat der Mann viele persönliche Daten verloren, darunter Fotos und Videos seiner Kinder. 7.000 Dollar (mehr als 6.900 Euro) Schadensersatz fordert der Mann nun von Google.
Millionen von Kinderpornoberichten pro Jahr
Technologieunternehmen markieren jedes Jahr millionenfach Bilder von sexuellem Missbrauch. Entsprechend Die New York Times Google hat im Jahr 2021 mehr als 600.000 Fälle von Kinderpornos gemeldet. Infolgedessen sperrte Google die Konten von mehr als 270.000 Nutzern.
Wie viele Konten fälschlicherweise gesperrt sind, ist nicht bekannt. Die künstliche Intelligenz von Google kann Kindesmissbrauch schnell erkennen. So können Kinder in Not schnell gerettet werden. Es werden jedoch auch Falschmeldungen produziert.