La startup de reconnaissance faciale repousse les doutes sur la précision et les réclamations légales après le rapport du NYT

Clearview AI, une société d'intelligence artificielle fournissant une technologie de reconnaissance faciale aux forces de l'ordre américaines, pourrait exagérer l'efficacité de ses services pour capturer des suspects de terrorisme et prévenir les attaques, selon un rapport de BuzzFeed News.

L'entreprise, qui a acquis une large reconnaissance New York Times Un rapport publié plus tôt ce mois-ci affirme qu'il a joué un rôle déterminant dans l'identification d'un suspect new-yorkais à partir de séquences vidéo qui avait placé trois cuiseurs à riz déguisés en engins explosifs autour de New York en août dernier, créant la panique et déclenchant une chasse à l'homme dans toute la ville. BuzzFeed News découvert via une demande de documents publics que Clearview AI a affirmé dans des documents promotionnels que les forces de l'ordre avaient lié le suspect à un profil en ligne en seulement cinq secondes en utilisant sa base de données. Mais la police de la ville dit maintenant que c'est tout simplement faux.

"Le NYPD n'a pas utilisé la technologie Clearview pour identifier le suspect dans l'incident du cuiseur à riz du 16 août", a déclaré un porte-parole du NYPD. BuzzFeed News. "Le NYPD a identifié le suspect en utilisant la pratique de reconnaissance faciale du Département où une image fixe d'une vidéo de surveillance a été comparée à un groupe de photos d'arrestation détenues légalement."

Le NYPD dit maintenant qu'il n'a aucune relation formelle avec Clearview, malgré les allégations de la société, à la fois dans le matériel promotionnel qu'il utilise pour présenter sa technologie à travers le pays et même publiquement sur son site Web. Le PDG de Clearview, Hoan Ton-That, dit maintenant que le NYPD utilise sa technologie «sur une base de démonstration». BuzzFeed rapports.

Dans un article de blog publié jeudi en réponse à des critiques, Clearview affirme avoir rejeté l'idée de produire une application publique de reconnaissance faciale destinée aux consommateurs, accessible à tous.

"L'application Clearview n'est pas accessible au public. Alors que de nombreuses personnes nous ont informés qu'une version publique serait plus rentable, nous avons rejeté l'idée », indique le message. «Clearview existe pour aider les organismes d'application de la loi à résoudre les cas les plus difficiles, et notre technologie est livrée avec des directives et des garanties strictes pour garantir que les enquêteurs ne l'utilisent qu'aux fins prévues.

Clearview est rapidement passée au premier plan de la conversation nationale autour de la technologie de reconnaissance faciale – en particulier, les militants et les politiciens s'inquiètent de plus en plus de la façon dont elle peut être utilisée pour violer les droits civils et si elle est adoptée trop rapidement sur la base de déclarations fausses ou trompeuses sur son utilisation. efficacité. Amazon, qui fabrique un produit de reconnaissance faciale basé sur le cloud appelé Rekognition, a également fait face à des critiques similaires pour avoir vendu sa technologie aux forces de l'ordre malgré les préoccupations répétées des universitaires et des militants qui disent qu'il est défectueux lorsqu'il est utilisé pour essayer d'identifier les individus à la peau foncée et les femmes .

Clearview fait également face à des défis de plates-formes à la suite de la NYT rapport. Twitter a envoyé à Clearview une lettre de cessation et d'abstention exigeant que la société cesse de gratter sa plate-forme pour que les photos soient incluses dans sa base de données. Twitter a également demandé à la société de supprimer toutes les données existantes qu'elle aurait pu obtenir de la plate-forme, car leur utilisation pour remplir une base de données tierce sans le consentement de l'utilisateur est contraire aux politiques de Twitter. Clearview a reconnu publiquement avoir construit sa base de données en partie en grattant les profils des réseaux sociaux.

Les membres du Congrès expriment également leurs préoccupations concernant le produit. Le sénateur Ed Markey (D-MA), un critique vocal des pratiques de confidentialité et de dépassement de la Silicon Valley, a également envoyé une lettre à Ton-That plus tôt ce mois-ci pour exiger que la société fournisse des informations cruciales sur ses pratiques et sa technologie. La liste des questions comprend des informations sur les agences d'application de la loi avec lesquelles Clearview travaille, les résultats des biais internes et des tests d'exactitude, le cas échéant, si l'entreprise prévoit de commercialiser sa technologie auprès de particuliers ou de sociétés tierces au-delà de l'application de la loi, et de son enfant. protections de la vie privée, entre autres informations.

«Les façons dont cette technologie pourrait être militarisée sont vastes et inquiétantes. En utilisant la technologie de Clearview, un criminel pourrait facilement découvrir où vit ou travaille quelqu'un qui marche dans la rue. Un adversaire étranger pourrait rapidement recueillir des informations sur des individus ciblés à des fins de chantage », lit-on dans la lettre de Markey. "Le produit de Clearview semble présenter des risques de confidentialité particulièrement effrayants, et je suis profondément préoccupé par le fait qu'il est capable de démanteler fondamentalement l'attente des Américains selon laquelle ils peuvent se déplacer, se réunir ou simplement apparaître en public sans être identifiés."

Dans une tournure particulièrement dystopique, Le New York Times a indiqué que Clearview avait identifié et contacté des officiers de police qui auraient pu s'entretenir avec des journalistes en consultant les journaux dont les officiers avaient téléchargé des photos de ces journalistes dans l'application de Clearview. «Il est extrêmement troublant que cette entreprise ait pu surveiller l'utilisation spécifiquement pour atténuer les questions des journalistes sur la légalité de leur application», a déclaré le sénateur Ron Wyden (D-OR). a tweeté dimanche dernier.



Traduit de la source : https://www.theverge.com/2020/1/24/21079354/clearview-ai-nypd-terrorism-suspect-false-claims-facial-recognition

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.