Allez lire cet exposé du NYT sur un nouveau système de reconnaissance faciale effrayant utilisé par la police américaine

Des centaines d'agences d'application de la loi aux États-Unis ont commencé à utiliser un nouveau système de reconnaissance faciale de Clearview AI, une nouvelle enquête menée par Le New York Times a révélé. La base de données est composée de milliards d'images extraites de millions de sites, dont Facebook, YouTube et Venmo. le Fois dit que le travail de Clearview AI pourrait «mettre fin à la confidentialité telle que nous la connaissons», et l'article mérite bien d'être lu dans son intégralité.

L'utilisation de systèmes de reconnaissance faciale par la police est déjà une préoccupation croissante, mais l'ampleur de la base de données de Clearview AI, sans parler des méthodes utilisées pour l'assembler, est particulièrement troublante. Le système Clearview est basé sur une base de données de plus de trois milliards d'images extraites d'Internet, un processus qui peut avoir violé les conditions d'utilisation des sites Web. Les organismes chargés de l'application des lois peuvent télécharger des photos de toute personne d'intérêt de leur cas, et le système renvoie des images correspondantes sur Internet, ainsi que des liens vers où ces images sont hébergées, telles que les profils de médias sociaux.

le NYT dit que le système a déjà aidé la police à résoudre des délits, notamment le vol à l'étalage, le vol d'identité, la fraude par carte de crédit, le meurtre et l'exploitation sexuelle des enfants. Dans un cas, la police de l'État de l'Indiana a pu résoudre un cas en 20 minutes en utilisant l'application.

L'utilisation d'algorithmes de reconnaissance faciale par la police comporte des risques. Les faux positifs peuvent incriminer les mauvaises personnes, et les défenseurs de la vie privée craignent que leur utilisation ne contribue à créer un état de surveillance policière. Les services de police auraient utilisé des images truquées qui pourraient conduire à des arrestations injustifiées, et une étude fédérale a découvert des «preuves empiriques» de biais dans les systèmes de reconnaissance faciale.

L'utilisation du système implique le téléchargement de photos sur les serveurs de Clearview AI, et on ne sait pas à quel point elles sont sécurisées. Bien que Clearview AI affirme que ses employés du service client ne regarderont pas les photos téléchargées, il semblait savoir que Kashmir Hill (le Fois journaliste enquêtant sur la pièce) demandait à la police de rechercher son visage dans le cadre de son reportage:

Pendant que l'entreprise m'évitait, elle me surveillait également. À ma demande, un certain nombre de policiers avaient diffusé ma photo via l'application Clearview. Ils ont rapidement reçu des appels téléphoniques de représentants d'entreprises leur demandant s'ils parlaient aux médias – un signe que Clearview a la capacité et, dans ce cas, l'appétit de surveiller qui les forces de l'ordre recherchent.

le Fois rapporte que le système semble être devenu viral avec les services de police, avec plus de 600 déjà inscrits. Bien qu'il n'y ait pas eu de vérification indépendante de son exactitude, Hill dit que le système a pu identifier des photos d'elle même lorsqu'elle couvrait la moitié inférieure de son visage, et qu'il a réussi à trouver des photos d'elle qu'elle n'avait jamais vues auparavant.

Un expert cité par Les temps a déclaré que le montant d'argent impliqué dans ces systèmes signifie qu'ils doivent être interdits avant que leur utilisation abusive ne se généralise. "Nous avons compté sur les efforts de l'industrie pour s'auto-contrôler et ne pas adopter une technologie aussi risquée, mais maintenant ces barrages se brisent parce qu'il y a tellement d'argent sur la table", a déclaré un professeur de droit et d'informatique à la Northeastern University, Woodrow. Hartzog, «Je ne vois pas d'avenir où nous exploiterons les avantages de la technologie de reconnaissance faciale sans l'abus paralysant de la surveillance qui l'accompagne. La seule façon de l'arrêter est de l'interdire. »

Traduit de la source : https://www.theverge.com/2020/1/20/21073718/clearview-ai-facial-recognition-database-new-york-times-investigation-go-read-this

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.