Die Konten von Eltern wurden beschlagnahmt, nachdem der Technologieriese sie als Kinderschänder gemeldet hatte – selbst nachdem die Polizei sie entlastet hatte
Googles verstärkter Kreuzzug gegen die sexuelle Ausbeutung von Kindern auf seinen Plattformen riskiert, das Leben genau der Kinder zu zerstören, die es zu retten vorgibt – sowie unschuldiger Eltern –, indem es ihren Ruf, ihre Freiheit und vielleicht sogar das Überleben ihrer Familieneinheit in die Hände eines legt übereifrigen Algorithmus, wie eine am Sonntag veröffentlichte Untersuchung der New York Times ergab. Zwei völlig unverbundene Väter kleiner Kinder erlebten fast identische kafkaeske Alpträume, die wegen nichts Unheilvollerem als Kinderschänder abgestempelt wurden, als zu versuchen, ihren Kleinkindern medizinische Hilfe zu verschaffen. San Francisco-Vater Mark und Houston-Vater Cassio haben sich nichts dabei gedacht, Fotos der geschwollenen Genitalien ihrer Söhne auf Anfrage ihrer Kinderärzte zu schicken, eine Praxis, die im Paradigma nach der Pandemie völlig normal geworden ist. Als sich sein Sohn erholte, dachte er nicht weiter daran und wurde von seinem Google Fi-Telefon unsanft geweckt, das ihm mitteilte, dass „schädliche Inhalte“ – möglicherweise illegal – entdeckt worden seien. Der Versuch, gegen die Entscheidung Berufung einzulegen, führte zu einer Ablehnung und keiner weiteren Mitteilung von Google. Mark verlor den Zugriff auf sein Telefon, seine E-Mails, Kontakte und alles andere, was Google als eines der größten Unternehmen der Welt übernommen hat. Alle seine Daten, einschließlich Fotos und Videos, waren in der Cloud eingeschlossen. Google hat ein weiteres Video gefunden, das beim Scannen dieser Dateien Alarm ausgelöst hat. Während sich die Technologie zur Erkennung von Fotos von missbrauchten und ausgebeuteten Kindern zunächst auf eine Datenbank mit bekannten Bildern sexueller Ausbeutung stützte, ist Googles relativ neuer Beitrag zum Kreuzzug ein KI-Tool, das behauptet, nie zuvor gesehene Bilder von Kindesausbeutung erkennen zu können basierend auf ihrer Ähnlichkeit mit vorhandenen Bildern. Anstatt einen menschlichen Moderator hinzuzuziehen, um zu überprüfen, ob das Foto tatsächlich missbräuchlich ist, bevor es fortfährt, sperrt Google das Konto, sobald es glaubt, dass es ein solches Bild entdeckt, jedes andere Bild, das sie haben, zu scannen, und rufen Sie das Nationale Zentrum für vermisste und ausgebeutete Kinder an, das priorisiert, was seiner Meinung nach neue Opfer sind. In der Zwischenzeit werden die fälschlich gekennzeichneten Bilder der Datenbank der ausgebeuteten Kinder hinzugefügt, sodass noch harmlosere Bilder von Kindern wie Marks und Cassios Gefahr laufen, rote Fahnen auszulösen. Die Polizei von San Francisco, die nach der Kennzeichnung von Marks Video durch Google eine Untersuchung eingeleitet hatte, sicherte eine Kopie von buchstäblich allem in seinen Google-Konten, von seinen Internetsuchen und seinem Standortverlauf, von Nachrichten und Dokumenten, die er gesendet und empfangen hatte, sowie von gespeicherten Fotos und Videos auf der Wolke. Ausgestattet mit denselben Daten, die Google verwendet hatte, um ihn zum Kinderschänder zu erklären, stellten sie stattdessen fest, dass kein Verbrechen begangen worden war, und schlossen den Fall ab. Google war nicht so verständnisvoll. Selbst als Mark den leitenden Detective in seinem Fall bat, für ihn einzutreten, sagte der Beamte, er könne nichts tun. Er kann immer noch nicht auf sein Konto zugreifen.
LESEN SIE MEHR: Google & Facebook wegen Ausspionierens von Benutzern mit einer Geldstrafe belegt
Cassios Fall entwickelte sich fast genauso, als die Polizei von Houston ihren Fall fallen ließ, nachdem er Mitteilungen des Kinderarztes vorgelegt hatte. Google wird seine Daten nicht herausgeben. Trotz der Entlastung der Eltern durch die Polizei blieb Google bei seiner Entscheidung, die Eltern weiterhin als Kinderschänder zu kennzeichnen und alle ihre Daten zu sperren. „Materialien zum sexuellen Missbrauch von Kindern sind abscheulich und wir setzen uns dafür ein, die Verbreitung auf unseren Plattformen zu verhindern“, sagte das Unternehmen laut New York Times in einer Erklärung. Es ist nicht bekannt, wie viele Fälle des Kinderschutzdienstes auf der Grundlage solcher „Fehler“ eröffnet wurden, noch wie viele riskierten, damit zu enden, dass ein Kind aus dem Haus genommen oder ein Elternteil verhaftet wird, wie auch die zu Unrecht des Kindesmissbrauchs beschuldigten Personen im Allgemeinen schweige darüber.
