La nécessité d'une loi fédérale sur la protection de la vie privée n'a jamais été aussi grande

Bay Area! Je parlerai avec Anna Wiener de Uncanny Valley, ses brillants nouveaux mémoires d'une vie dans la technologie, le 4 février au Manny’s à San Francisco. C'est notre deuxième événement Interface Live, et cela signifierait le monde pour moi si vous veniez nous dire bonjour et parler de technologie et de démocratie avec nous. Achetez vos billets ici!

En juin dernier, après une série de développements liés à la reconnaissance faciale et au suivi des clients, j'ai prévenu qu'un système de crédit social à la chinoise commençait à prendre forme aux États-Unis. Entre autres choses, un district scolaire de l'ouest de New York a annoncé son intention de déployer un système de reconnaissance faciale pour suivre les étudiants et les professeurs; le Washington Post ont indiqué que les aéroports avaient accéléré leur utilisation des outils de reconnaissance faciale, et les États-Unis ont commencé à exiger des demandeurs de visa qu'ils soumettent des profils de médias sociaux avec leurs demandes.

Cette colonne a laissé ouverte la question du rôle que les forces de l'ordre américaines pourraient jouer dans la construction d'un système qui se sent de plus en plus dystopique. Mais maintenant, grâce à une superbe enquête de Kashmir Hill, nous en savons beaucoup plus. Hill raconte l'histoire de Clearview AI, une petite entreprise pour la plupart inconnue qui a gratté des images accessibles au public – y compris des milliards de profils Facebook, YouTube et Venmo – et vendu l'accès à la police. Elle écrit:

Jusqu'à présent, la technologie qui identifie facilement tout le monde en fonction de son visage était taboue en raison de son érosion radicale de la vie privée. Les entreprises technologiques capables de publier un tel outil se sont abstenues de le faire; en 2011, le président de Google à l'époque a déclaré que c'était la seule technologie que l'entreprise avait retenue car elle pouvait être utilisée "de manière très mauvaise". Certaines grandes villes, y compris San Francisco, ont interdit à la police d'utiliser la technologie de reconnaissance faciale.

Mais sans examen public, plus de 600 organismes d'application de la loi ont commencé à utiliser Clearview au cours de l'année écoulée, selon la société, qui a refusé de fournir une liste. Le code informatique sous-jacent à son application, analysé par le New York Times, comprend un langage de programmation pour l'associer à des lunettes de réalité augmentée; les utilisateurs pourraient potentiellement identifier chaque personne qu'ils ont vue. L'outil pourrait identifier des militants lors d'une manifestation ou un étranger attrayant dans le métro, révélant non seulement leurs noms, mais où ils vivaient, ce qu'ils faisaient et qui ils connaissaient.

Le rapport de Hill est truffé de détails surprenants, et vous devriez le lire en entier si vous ne l'avez pas déjà fait. Lorsqu'il a atterri en ligne samedi, il a galvanisé les discussions sur la rapidité avec laquelle les entreprises technologiques érodent les protections de la vie privée, le Congrès étant resté inactif jusqu'à présent malgré des années de discussions autour d'une loi nationale sur la confidentialité.

Quelques fils à enfiler.

Est-ce légal? Comme Ben Thompson l'explique aujourd'hui dans un article payant, LinkedIn a poursuivi une entreprise qui avait gratté ses profils publics d'une manière similaire à Clearview. Mais il a perdu le procès, donnant apparemment le feu vert à d'autres entreprises cherchant à faire la même chose. L'année dernière, Facebook a déclaré au Congrès qu'il recueillait des informations sur les utilisateurs déconnectés pour éviter ce type de grattage. Mais l'ancien responsable de la sécurité de Facebook, Alex Stamos, m'a expliqué qu'empêcher ce grattage est beaucoup plus facile à dire qu'à faire.

Est-ce la fin de la vie privée? Non, car les lois protégeant la vie privée des individus peuvent toujours être efficaces – même au niveau de l'État. Mardi, la Cour suprême a refusé d'entendre un appel de Facebook sur une affaire impliquant l'utilisation par la société de la technologie de reconnaissance faciale. Facebook a utilisé la technologie pour étiqueter des photos avec des noms d'utilisateurs, ce qui va à l'encontre d'une loi de l'Illinois exigeant que les entreprises obtiennent d'abord leur consentement. En conséquence, Facebook devra probablement faire face à un recours collectif de plusieurs milliards de dollars. Une loi fédérale stricte sur la vie privée pourrait rendre illégaux des produits comme Clearview ou les réglementer pour offrir des protections contre certains des moyens les plus évidents d'utilisation abusive de la technologie.

Notre panique actuelle sur la reconnaissance faciale ignore-t-elle le point le plus large? Sondant les récents efforts municipaux visant à interdire l'utilisation de la technologie par les forces de l'ordre, Bruce Schneier soutient de façon convaincante que nous devons avoir une vision plus large de la question. Nous pouvons être (et de plus en plus) suivis de toutes sortes de façons: par la fréquence cardiaque, la démarche, les empreintes digitales, les motifs de l'iris, les plaques d'immatriculation, les dossiers de santé et (bien sûr) l'activité sur les réseaux sociaux. Les forces qui travaillent pour mettre fin à la vie privée individuelle sont une hydre, soutient Schneier, et doivent être traitées collectivement. Il écrit:

Le fait est que peu importe la technologie utilisée pour identifier les personnes. Qu'il n'existe actuellement aucune base de données complète sur les battements cardiaques ou les allures ne rend pas les technologies qui les collectent moins efficaces. Et la plupart du temps, peu importe si l'identification n'est pas liée à un vrai nom. Ce qui est important, c'est que nous pouvons être identifiés de manière cohérente au fil du temps. Nous pouvons être complètement anonymes dans un système qui utilise des cookies uniques pour nous suivre lorsque nous naviguons sur Internet, mais le même processus de corrélation et de discrimination se produit toujours. C’est pareil pour les visages; nous pouvons être suivis lorsque nous nous déplaçons dans un magasin ou un centre commercial, même si ce suivi n'est pas lié à un nom spécifique. Et cet anonymat est fragile: si nous commandons quelque chose en ligne avec une carte de crédit ou achetons quelque chose avec une carte de crédit dans un magasin, nos vrais noms sont soudainement attachés à ce qui était des informations de suivi anonymes.

Réglementer ce système signifie aborder les trois étapes du processus. L'interdiction de la reconnaissance faciale ne fera aucune différence si, en réponse, les systèmes de surveillance passent à l'identification des personnes par les adresses MAC des smartphones. Le problème est que nous sommes identifiés à notre insu et sans notre consentement, et la société a besoin de règles pour savoir quand cela est permis.

Les experts de la confidentialité sont-ils inutilement alarmistes? J'essaie de rationner judicieusement mon alarmisme dans cette newsletter. Mais une fois que vous commencez à chercher des exemples d'entreprises utilisant leurs données pour construire des systèmes de crédit social, vous les trouvez partout. Voici, depuis le début du mois, un outil qu'Airbnb développe pour évaluer les risques posés par les risques individuels:

Selon le brevet, Airbnb pourrait déployer son logiciel pour analyser les sites, y compris les médias sociaux, à la recherche de traits tels que «conscience et ouverture» par rapport aux contrôles de crédit et d'identité habituels et à ce qu'il décrit comme des «bases de données tierces sécurisées». Des traits tels que «névrosisme et implication dans des crimes» et «narcissisme, machiavélisme ou psychopathie» sont «perçus comme indignes de confiance».

Contre qui cet outil sera-t-il discriminatoire? Et quel recours auront les discriminés? Ce sont deux questions que nous devrions prendre dans toute discussion sur une technologie comme celle-ci.

Enfin, existe-t-il un bon gloss marxiste sur tout cela? Sûr. Voici Ben Tarnoff avec une pièce provocante dans La logique appelant à une renaissance du luddisme pour contrer la technologie oppressive du type que Clearview fabrique. (Sa pièce précède Hill’s de quelques jours, mais le point est là.)

On peut voir une approche similaire dans le mouvement émergent contre la reconnaissance faciale, car certains gouvernements municipaux interdisent aux agences publiques d'utiliser le logiciel. Ces campagnes sont guidées par la conviction que certaines technologies sont trop dangereuses pour exister. Ils suggèrent qu'une solution à ce que Gandy a appelé le «tri panoptique» consiste à briser les outils qui permettent un tel tri.

Nous pourrions appeler cela l'option luddite, et c'est une composante essentielle de tout avenir démocratique. L'historien David F. Noble a écrit une fois sur l'importance de percevoir la technologie «au présent». Il a félicité les Luddites pour cette raison: les Luddites ont détruit les machines textiles en Angleterre au XIXe siècle parce qu'elles reconnaissaient la menace que cela représentait pour leur gagne-pain. . Ils n’ont pas adhéré à l’évangile du progrès technologique qui leur a demandé d’attendre patiemment un avenir meilleur; ils ont plutôt vu ce que certaines technologies leur faisaient au présent et ont pris des mesures pour les arrêter. Ils n'étaient pas contre la technologie dans l'abstrait. Ils étaient contre les relations de domination que des technologies particulières ont instaurées. En démantelant ces technologies, ils ont également démantelé ces relations – et forcé la création de nouvelles, par le bas.

En juin dernier, en écrivant sur l'essor des systèmes de crédit social américains, j'ai noté qu'ils se développaient avec très peu de conversations publiques à leur sujet. La bonne nouvelle est que la conversation publique a maintenant commencé. La question est de savoir si les défenseurs des libertés civiles pourront soutenir cette conversation – ou la transformer en action.

Le rapport

Aujourd'hui, dans les nouvelles qui pourraient affecter la perception du public des grandes plateformes technologiques.

Tendance à la hausse: Les entreprises européennes disent que l’utilisation Facebook les applications les ont aidés à générer des ventes correspondant à environ 208 milliards d'euros l'an dernier, ce qui se traduit par environ 3,1 millions d'emplois. La nouvelle provient d'une étude Facebook commandée à Copenhagen Economics.

Tendance à la baisse: Une nouvelle analyse du comportement inauthentique coordonné sur Facebook montre que le réseau social ne parvient toujours pas à suivre la propagation de la désinformation et de la manipulation des médias sur la plate-forme. Les analystes demandent toujours à Facebook de publier plus d'informations sur les campagnes coordonnées pour accroître la transparence du processus.

Gouvernant

Tout d'abord aujourd'hui, un appel à l'aide de nos amis sur Vox.com. La California Consumer Privacy Act accorde aux Californiens certains droits sur les données que les entreprises collectent à leur sujet. Avez-vous profité de cette nouvelle loi? Remplissez ce formulaire pour aider Vox à signaler ce qui se passe lorsque vous le faites: http://bit.ly/2NMn19o

Pomme, Amazone, Facebook et Google a pris un coup de fouet public lors d'une audience du Congrès vendredi. Certains de leurs plus petits rivaux, y compris Sonos et Tuile, a supplié les législateurs fédéraux de prendre des mesures rapides contre Big Tech. Tony Romm à The Washington Post a l'histoire:

Les appels à l'allégement de la réglementation ont retenti auprès des législateurs, dirigés par le représentant David N. Cicilline (D-R.I.), Président de la plus haute commission antitrust de la Chambre. "Il est devenu clair que ces entreprises ont un pouvoir énorme en tant que gardiens pour façonner et contrôler le commerce en ligne", a déclaré Cicilline pour ouvrir la session.

L'audience à l'Université du Colorado à Boulder a mis des visages publics sur la douleur causée par certaines des plus grandes entreprises technologiques des États-Unis. Cicilline et d'autres législateurs ont cherché à déterminer si la loi fédérale antitrust est suffisante pour tenir les dirigeants de la Silicon Valley responsables – et si des modifications à la loi fédérale sont nécessaires pour répondre aux préoccupations anticoncurrentielles dans la recherche, les smartphones, le commerce électronique et les réseaux sociaux.

"Je pense qu'il est clair qu'il y a des abus sur le marché et un besoin d'action", a déclaré le représentant Ken Buck (R-Colo.).

Quatre Facebook des concurrents poursuivent le réseau social pour comportement prétendument anticoncurrentiel. Ils ont demandé à un juge d'ordonner Mark Zuckerberg de renoncer au contrôle de l'entreprise et de le forcer à vendre Instagram et WhatsApp. (Robert Burnson / Bloomberg)

Alors que sept étudiants de l'Université de Porto Rico se préparent à être jugés en février pour avoir participé à une manifestation non violente il y a plus de deux ans, des documents communiqués à leurs avocats révèlent que Facebook a permis au Département de la justice de l’île d’accéder à une mine d’informations privées provenant des publications des étudiants. (Alleen Brown et Alice Speri / L'interception)

Dépenses des candidats démocrates Facebook ads montre comment les campagnes se frayent un chemin à travers les États principaux. Depuis octobre, Pete Buttigieg a dépensé environ un cinquième de son budget global Facebook sur des publicités ciblant les électeurs de l'Iowa. Andrew Yang a dépensé plus de 85% de son budget Facebook dans l'Iowa et le New Hampshire. (Nick Corasaniti et Quoctrung Bui / Le New York Times)

Facebook a supprimé un réseau de pages qui coordonnaient les postes de défense de Robert F. Hyde, un personnage qui s'est retrouvé impliqué dans l'enquête sur la destitution. Les pages se décrivent comme représentant des groupes de partisans du président Trump. (Rebecca Ballhaus / Le journal de Wall Street)

Un juge du Massachusetts a ordonné Facebook pour fournir des données sur des milliers d'applications susceptibles d'avoir mal géré les informations personnelles de ses utilisateurs. Cette décision était un rejet clair des tentatives antérieures du géant de la technologie de dissimuler les détails clés aux enquêteurs de l'État. (Tony Romm / The Washington Post)

La propagande nationaliste s'est répandue WhatsApp avant les prochaines élections à Delhi. Les propagandistes semblent viser les étudiants universitaires qui s’opposent à la nouvelle loi indienne sur l’amendement de la citoyenneté, qui est largement perçue comme anti-musulmane. (Anisha Sircar / Quartz)

Une vidéo virale intitulée «La vérité d'un Iranien», qui a accumulé plus de 10 millions de vues à travers Facebook, Twitter, et Youtube, a été créé par un lobbyiste enregistré qui travaillait auparavant pour une milice combattant dans une guerre civile amère en Libye. La vidéo a salué la frappe de drones américains qui a tué le général iranien Qassem Soleimani. (Ryan Broderick et Jane Lytvynenko / BuzzFeed)

Joe Biden a déclaré dans une interview la semaine dernière qu'il souhaitait révoquer l'une des protections fondamentales d'Internet: l'article 230 de la communication Decency Act. Il semble avoir profondément mal compris ce que fait réellement la loi. (Makena Kelly / Le bord)

procureur général William Barr a intensifié une lutte de longue date entre les forces de l'ordre et les entreprises technologiques pour les communications cryptées. Certains agents du FBI craignent que son approche énergique ne compromette les relations précieuses qu'ils ont entretenues avec les entreprises technologiques. (Sadie Gurman, Dustin Volz et Tripp Mickle / Le journal de Wall Street)

Président français Emmanuel Macron et Donald Trump a convenu d'une trêve dans un différend fiscal numérique en cours qui affecte les grandes entreprises technologiques. Paris a proposé de suspendre les acomptes pour la taxe numérique de cette année et Washington a promis de continuer à négocier vers une solution plutôt que d'agir sur une menace tarifaire. (Reuters)

Peter ThielLa philosophie directrice de l’Europe est le libertarisme avec un engagement abstrait pour la liberté personnelle mais aucune affection particulière pour la démocratie, dit Max Read. le Pay Pal Le co-fondateur et membre du conseil d'administration de Facebook (et investisseur de Clearview AI!) s'est marié au pouvoir de l'État, mais pas parce qu'il veut réellement participer au processus politique. (Lecture max / Espion)

Le New York Times créé un jeu pour montrer à quel point il est facile de renoncer à des informations personnelles en ligne. La seule façon de gagner le jeu est de transmettre des données personnelles. Relatable!

MediaReview veut transformer le vocabulaire des photos et vidéos manipulées en quelque chose de structuré. Les définitions proposées permettent aux images ou aux vidéos d'être «authentiques», «MissingContext», «Cropped», «Transformed», «Edited» ou «ImageMacro». Bien sûr, pourquoi pas! (Joshua Benton / NiemanLab)

Si nous voulions des médias qui soient bons pour les sociétés démocratiques, nous devons créer des outils expressément conçus pour ces objectifs, explique Ethan Zuckerman, directeur du Center for Civic Media du MIT. Ces outils ne feront probablement pas d'argent et ne contesteront pas Facebook dominance – et ça va. (Ethan Zuckerman / moyen)

Industrie

⭐ Les chercheurs remettent en question la croyance répandue selon laquelle les écrans sont responsables de vastes problèmes de société comme l'augmentation des taux d'anxiété et de privation de sommeil chez les adolescents. Dans la plupart des cas, disent-ils, le téléphone n'est qu'un miroir qui révèle les problèmes qu'un enfant aurait même sans le téléphone. Nathaniel Popper à Le New York Times explique les résultats:

Les chercheurs s'inquiètent du fait que l'accent mis sur la garde des enfants loin des écrans rend difficile des conversations plus productives sur des sujets tels que la façon de rendre les téléphones plus utiles pour les personnes à faible revenu, qui ont tendance à les utiliser davantage, ou comment protéger la vie privée des les adolescents qui partagent leur vie en ligne.

«Beaucoup de gens qui terrifient les enfants à propos des écrans, ils ont attiré l'attention de la société et ils vont monter ça. Mais c'est super mauvais pour la société », a déclaré Andrew Przybylski, directeur de la recherche à l'Oxford Internet Institute, qui a publié plusieurs études sur le sujet.

Facebook prévoit d'embaucher 1 000 personnes à Londres cette année, dans des rôles comme le développement de produits et la sécurité. La société continue de développer son plus grand centre d'ingénierie en dehors des États-Unis malgré les craintes concernant le Brexit. (Paul Sandle et Elizabeth Howcroft / Reuters)

Facebook a donné Oculus Faites une baisse de prix permanente de 50 $. (Sam Byford / Le bord)

Adam Mosseri, le chef de Instagram, est la personne en charge de Project Daisy – l'initiative de l'application de partage de photos pour supprimer les likes sur la plateforme. Ce profil révèle une tension actuelle du règne de Mosseri sur Instagram: l'homme qui travaille pour éliminer la plupart des likes veut vraiment être aimé. (Amy Chozick / Le New York Times)

D'innombrables fournisseurs de cartouches de vape THC illégales fauchent leurs marchandises à la vue de tous Instagram et Facebook. Ces opérateurs illégaux semblent le faire en toute impunité, utilisant la facilité et l'anonymat d'Instagram pour atteindre un large public de jeunes qui vape. (Conor Ferguson, Cynthia McFadden et Rich Schapiro / NBC)

Jack Dorsey a demandé Elon Musk comment réparer Twitter lors d'un appel vidéo la semaine dernière. Musk a déclaré que Twitter devrait commencer par identifier et étiqueter les robots. (Kurt Wagner / Bloomberg)

Instagram supprime le bouton orange IGTV de sa page d'accueil. Seulement 1% des utilisateurs d'Instagram ont téléchargé l'application IGTV autonome au cours des 18 mois qui ont suivi son lancement. (Josh Constine / TechCrunch)

Instagram démocratise qui peut réussir dans l'industrie de la danse, permettant aux talents non traditionnels de s'introduire. Il ne s'agit plus seulement d'avoir le bon look ou les bonnes connexions. (Makeda Pâques / Los Angeles Times)

Instagram a également révolutionné la façon dont les tatoueurs développent leur entreprise. De nombreux artistes estiment que plus de 70% de leurs clients proviennent désormais de l'application de partage de photos. (Salvador Rodriguez / CNBC)

Casser PDG Evan Spiegel dit TIC Tac pourrait devenir plus grand que Instagram. La société App Intelligence App Annie a classé TikTok juste derrière Instagram en termes d'utilisateurs mensuels actifs en 2019 (Hailey Waller / Bloomberg)

TikTok's maison mère, ByteDance, prépare une percée majeure dans les jeux, le marché le plus lucratif de l’arène mobile. C’est un royaume Tencent a dominé pendant plus d'une décennie. (Zheping Huang / Bloomberg)

Plus de 70 000 photos de tinder les utilisateurs sont partagés par les membres d'un forum en ligne sur la cybercriminalité, ce qui soulève des inquiétudes quant au potentiel d'utilisation abusive des photos. De façon inquiétante, seules les femmes semblent avoir été prises pour cible. (Dell Cameron et Shoshana Wodinsky / Gizmodo)

Un nouveau rapport suggère Bumble, l'application de rencontres «par des femmes, pour des femmes» qui essaie de garder les femmes en sécurité sur Internet, a peu de stratégie pour atteindre ses nobles objectifs. Elle se débat également avec une culture interne cliquey, selon certains employés.

Et enfin…

Facebook s'est excusé après la traduction de sa plateforme Xi Jinping, le nom du dirigeant chinois, comme «M. Shithole ”en anglais. La mauvaise traduction a attiré l'attention de l'entreprise lorsque Daw Aung San Suu Kyi, le chef civil de facto du Myanmar, a écrit sur sa page Facebook officielle à propos de la visite de deux jours de M. Xi dans son pays.

Xi est un dictateur brutal qui dirige des camps de concentration qui abriteraient plus d'un million de personnes dont le seul crime est d'être musulman. Je dirais donc "M. Shithole »lui va très bien.

Parle-nous

Envoyez-nous des conseils, des commentaires, des questions et vos résultats Clearview: casey@theverge.com et zoe@theverge.com.



Traduit de la source : https://www.theverge.com/interface/2020/1/22/21075270/clearview-ai-facial-recognition-nytimes-federal-privacy-law-surveillance

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.