LLa semaine dernière, le Bureau du commissaire à l’information du Royaume-Uni (ICO) a infligé une amende de 7,5 millions de livres sterling à une petite entreprise technologique appelée Clearview AI pour « avoir utilisé des images de personnes au Royaume-Uni et ailleurs, collectées sur Internet et les médias sociaux, une base de données mondiale en ligne qui pourrait être utilisée pour la reconnaissance faciale ». L’ICO a également publié un avis d’application ordonnant à la société de cesser la collecte et l’utilisation des informations personnelles des résidents britanniques accessibles au public sur Internet et de supprimer les informations des résidents britanniques de ses systèmes.
Étant donné que Clearview AI n’est pas exactement un nom familier, certaines informations de base pourraient être utiles. Il s’agit d’une entreprise américaine qui a « gratté » (c’est-à-dire collectée numériquement) plus de 20 milliards d’images de visages à partir d’informations accessibles au public sur Internet et les plateformes de médias sociaux du monde entier pour créer une base de données en ligne. L’entreprise utilise cette base de données pour fournir un service qui permet aux clients de télécharger une image d’une personne sur son application, qui est ensuite comparée à toutes les images de la base de données. L’application crée une liste d’images qui ont des caractéristiques similaires à la photo fournie par le client, ainsi qu’un lien vers les sites Web d’où proviennent ces images. Clearview décrit son activité comme « la construction d’un monde plus sûr, un visage à la fois ».
L’inconvénient est que les personnes dont les images composent la base de données n’ont pas été informées que leurs photos étaient collectées ou utilisées de cette manière, et elles n’ont certainement jamais consenti à leur utilisation de cette manière. D’où l’action de l’ICO.
La plupart d’entre nous n’avaient jamais entendu parler de Clearview avant janvier 2021, lorsque Kashmir Hill, un journaliste spécialisé dans les technologies fines, a révélé son existence dans le New York Times. Il a été fondé par un entrepreneur technologique nommé Hoan Ton-That et Richard Schwartz, qui avait été conseiller de Rudy Giuliani lorsqu’il était maire de New York et était toujours, euh, respectable. L’idée était que Ton-That superviserait la création d’une puissante application de reconnaissance faciale, tandis que Schwartz utiliserait son Rolodex bombé pour susciter l’intérêt des entreprises.
Il n’a pas fallu longtemps à Schwartz pour se rendre compte que les forces de l’ordre américaines seraient en voie de guérison comme des loups voraces. Selon le rapport de Hill, le département de police de l’Indiana a été le premier client de l’entreprise. En février 2019, il a résolu une affaire en 20 minutes. Deux hommes se sont battus dans un parc et l’un s’est tiré une balle dans le ventre. Un spectateur a enregistré le crime sur un smartphone, donnant à la police une image fixe du visage du tireur à parcourir via l’application Clearview. Ils ont immédiatement obtenu un match. L’homme est apparu dans une vidéo que quelqu’un a publiée sur les réseaux sociaux et son nom a été inclus dans une légende du clip vidéo. Bingo !
Le discours marketing de Clearview a joué dans la galerie des forces de l’ordre : une double page, avec la page de gauche portant le slogan « Arrêtez de chercher. Commencez à résoudre » dans Helvetica Bold avec 95 points. En dessous se trouvait une liste d’options d’abonnement annuel – allant de 10 000 $ pour cinq utilisateurs à 250 000 $ pour 500. Mais le plus important était qu’il y avait toujours une option d’abonnement d’essai quelque part qu’un seul fonctionnaire pouvait utiliser pour voir si la chose fonctionnait.
La stratégie sous-jacente était intelligente. Vente aux sociétés au dessus Les sociétés de l’extérieur est difficile. Mais si vous pouvez convaincre un initié, même relativement jeune, d’essayer vos trucs et de les trouver utiles, alors vous êtes à mi-chemin de la vente. C’est ainsi que Peter Thiel a fait racheter par le Pentagone le logiciel d’analyse de données de sa société Palantir. Il a d’abord persuadé des officiers militaires de rang intermédiaire de l’essayer, sachant qu’ils finiraient par arriver à leurs supérieurs. de l’Intérieur. Et devine quoi? Thiel a été l’un des premiers investisseurs dans Clearview.
On ne sait pas combien de clients l’entreprise a. Les documents internes de l’entreprise divulgués à BuzzFeed en 2020 suggèrent qu’à ce jour, des personnes associées à 2 228 organismes d’application de la loi, entreprises et institutions ont créé des comptes et effectué collectivement près de 500 000 recherches – toutes suivies par l’entreprise et enregistrées. Aux États-Unis, la majorité des achats institutionnels provenaient des services de police locaux et d’État. À l’étranger, les documents divulgués suggéraient que Clearview s’était étendu à au moins 26 pays en dehors des États-Unis, y compris le Royaume-Uni, où des recherches (éventuellement non autorisées) par des responsables du Met, la National Crime Agency et les forces de police du Northamptonshire, du North Yorkshire, du Suffolk, du Surrey et du Hampshire ont été enregistrés par les serveurs Clearview.
En réponse à l’amende de l’ICO, le cabinet d’avocats représentant Clearview a déclaré que l’amende était « juridiquement incorrecte » car la société ne fait plus affaire au Royaume-Uni et « n’est pas sous la juridiction de l’ICO ». Nous verrons. Ce qui est incontesté, cependant, c’est que de nombreuses images de la base de données de l’entreprise proviennent d’utilisateurs de médias sociaux qui seraient au Royaume-Uni et qui n’ont pas donné leur consentement. Alors bravo à l’ICO.
ce que j’ai lu
Un grand virage
À propos de ces tracteurs ukrainiens Kill-Switched est un article de blog amer sur Medium par Cory Doctorow sur le pouvoir dont dispose John Deere pour tuer non seulement les tracteurs volés à l’Ukraine par les Russes, mais aussi ceux achetés par les agriculteurs américains, désactivés à distance.
Hors de contrôle
Pandémie permanente est un essai qui donne à réfléchir sur Ménestrels par Justin EH Smith demandant si les contrôles légitimés par la lutte contre le Covid seront un jour assoupli.
droit de porter des armes ?
Dans le bulletin Substack de Heather Cox Richardson sur le « droit de porter les armes », l’historienne réfléchit à la façon dont le deuxième amendement a été déformé pour répondre aux besoins du lobby des armes à feu.
Les entreprises de reconnaissance faciale devraient se regarder dans le miroir | John Naughton est apparu en premier sur Germanic News.