Un plan en 10 points pour redémarrer le complexe industriel de données pour le bien commun – TechCrunch

Un manifeste posthume de Giovanni Buttarelli, qui jusqu'à sa mort cet été, était le principal responsable de la protection des données en Europe. Il a pour ambition de rejoindre les tâches de colonisation rapace d'espaces humains par le capitalisme de surveillance, via une cartographie et une modélisation de plus en plus envahissantes et intrusives, avec la menace existentielle. à la vie sur terre par le changement climatique provoqué par l'homme.

Dans un document dense, riche en idées et en idées sur la notion selon laquelle «données signifie pouvoir» – et donc que les capacités de capture de données inégalement réparties dont bénéficient actuellement une poignée de plates-formes technologiques génèrent des asymétries de pouvoir et des inégalités sociales considérables – Buttarelli soutient qu'il existe potentiel pour l'IA et l'apprentissage automatique de «contribuer à surveiller la dégradation et la pollution, à réduire les déchets et à développer de nouveaux matériaux à faible émission de carbone». Mais seulement avec le bon pilotage réglementaire en place.

«Les mégadonnées, l’intelligence artificielle et l’Internet des objets devraient viser à permettre le développement durable, et non à une quête sans fin pour décoder et recoder l’esprit humain», a-t-il averti. «Ces technologies devraient – d’une manière qui puisse être vérifiée – poursuivre des objectifs dotés d’un mandat démocratique. Les champions européens peuvent être soutenus pour aider l'UE à atteindre l'autonomie stratégique numérique. "

"Les valeurs fondamentales de l'UE sont la solidarité, la démocratie et la liberté", poursuit-il. «Sa conception de la protection des données a toujours été la promotion d'un développement technologique responsable pour le bien commun. Avec la prise de conscience croissante de l'urgence environnementale et climatique à laquelle l'humanité est confrontée, il est temps de centrer le traitement des données sur les besoins sociaux urgents. L’Europe doit être à l’avant-garde de cette entreprise, tout comme elle l’a été dans le domaine des droits de l’individu ».

L'un de ses principaux appels est que les régulateurs imposent la transparence des sociétés de technologie dominantes – afin que «les processus de production et les flux de données soient traçables et visibles pour un contrôle indépendant».

«Utiliser les pouvoirs de coercition pour interdire les pratiques préjudiciables, notamment le profilage et le ciblage comportemental des enfants et des jeunes et à des fins politiques», suggère-t-il également.

Un autre point du manifeste appelle à un moratoire sur les «technologies dangereuses», citant comme exemples la reconnaissance faciale et les drones tueurs, et appelle de manière générale à détourner les technologies conçues pour la «manipulation humaine» au profit de «champions numériques européens du développement durable et de la promotion». des droits de l'homme ".

Dans une postface rédigée par Shoshana Zuboff, l’auteur et érudit américain écrit en faveur du principe central du manifeste, avertissant avec ironie que: "Le réchauffement climatique est pour la planète ce que le capitalisme de surveillance représente pour la société".

Les idées de Buttarelli et de Zuboff – qui a littéralement écrit le livre sur la surveillance capitaliste – se chevauchent souvent. La concentration des données par de puissantes plates-formes technologiques aboutit également à des structures de contrôle algorithmiques qui donnent naissance à «une sous-classe numérique… comprenant des travailleurs à bas salaire, des chômeurs, des enfants, des malades, des migrants et des réfugiés qui sont tenus de suivre les instructions des machines». , prévient-il.

"Ce nouveau pouvoir instrumentariste nous prive non seulement du droit de consentement, mais également du droit de combattre, construisant un monde sans issue dans lequel l'ignorance est notre seule alternative à l'impuissance résignée, à la rébellion ou à la folie", reconnaît-elle.

Le manifeste ne contient pas moins de six mots – ce qui témoigne du magasin dans lequel les idées de Buttarelli sont conservées parmi les défenseurs de la vie privée, du numérique et des droits de l’homme.

Le manifeste "va bien au-delà de la protection des données", déclare l'écrivain Maria Farrell dans une autre contribution. «Il relie les points pour montrer comment la maximisation des données exploite les asymétries de puissance pour générer des inégalités globales. Il explique clairement à quel point le traitement sans faille des données entraîne le changement climatique. Le manifeste de Giovanni nous demande de relier les points dans notre réponse, partant de la compréhension que l'extraction de données sociopathiques et le calcul sans pensée sont les actes d'une machine qui doit être radicalement reprogrammée. "

Au cœur du document se trouve un plan en 10 points pour ce qui est décrit comme «protection de la vie privée durable», qui comprend l'appel à un rapprochement des priorités numériques de l'UE avec un Green New Deal – afin de «soutenir un programme de transformation numérique verte». objectifs communs explicites de réduction des inégalités et de protection des droits de l'homme pour tous, en particulier les personnes déplacées en période de crise climatique ».

Buttarelli suggère également de créer un forum pour les défenseurs des libertés civiles, les scientifiques de l'environnement et les experts en apprentissage automatique qui peuvent donner des conseils sur le financement de la R & D par l'UE afin de mettre l'accent sur une technologie qui «responsabilise les individus et protège l'environnement».

Un autre appel est de construire un "espace commun numérique européen" pour soutenir les "outils à code source ouvert et l'interopérabilité entre les plates-formes, un droit sur sa propre identité ou des identités propres, une utilisation illimitée de l'infrastructure numérique dans l'UE, des communications cryptées et une interdiction du suivi des comportements et censure par les plateformes dominantes ".

«La technologie numérique et la réglementation de la confidentialité doivent faire partie d’une solution cohérente pour lutter contre le changement climatique et pour s’adapter à celui-ci», suggère-t-il dans une section consacrée au Green New Deal numérique – tout en avertissant que les applications actuelles de puissantes technologies de l'IA semblent contribuer au problème.

«L’empreinte carbone d’AI augmente», at-il souligné, soulignant le gaspillage du capitalisme de surveillance dans l’environnement. «L’industrie investit en partant de l’hypothèse (erronée) selon laquelle les modèles d’IA doivent être basés sur un calcul en masse.

«Le carbone libéré dans l'atmosphère par l'augmentation croissante du traitement des données et la combustion de combustibles fossiles rend les événements climatiques plus probables. Cela entraînera de nouveaux déplacements de populations et une intensification des appels en faveur de "solutions technologiques" de surveillance et de contrôle des frontières, par le biais de systèmes biométriques et de systèmes d'IA, générant ainsi davantage de données. Au lieu de cela, nous devons «verdir» les technologies numériques et les intégrer à l’économie circulaire ».

Un autre appel important – et Buttarelli l’a fait avec prudence ces dernières années – consiste à renforcer le travail en commun entre les régulateurs de l’UE en vue de la réalisation d’objectifs communs durables.

«Tous les régulateurs devront converger dans leurs objectifs politiques – par exemple, la collusion dans la protection de l'environnement devrait être considérée davantage comme une nécessité éthique que comme une violation technique des règles du cartel. En cas de crise, nous devons doubler nos valeurs et ne pas les compromettre », déclare-t-il, avant de faire entendre son soutien aux organismes de réglementation antitrust et de protection de la vie privée afin qu'ils coopèrent afin de lutter efficacement contre les asymétries de pouvoir basées sur les données.

«L’antitrust, outil des démocraties pour restreindre un pouvoir de marché excessif, redevient dès lors essentiel. Les autorités responsables de la concurrence et de la protection des données prennent conscience de la nécessité de partager des informations sur leurs enquêtes et même de coopérer pour anticiper les comportements préjudiciables et lutter contre les "déséquilibres de pouvoir plutôt que l'efficacité et le consentement". "

En ce qui concerne le règlement général sur la protection des données (RGPD) en particulier – le cadre actuel de la protection des données en Europe – Buttarelli donne une évaluation mesurée en indiquant que "les premières impressions indiquent de gros investissements dans le respect de la loi, mais peu de changement visible dans les pratiques en matière de données".

Selon lui, les autorités européennes de protection des données devront utiliser tous les outils à leur disposition – et trouver le courage nécessaire – pour assumer la position dominante et cibler les modèles économiques numériques alimentant tant d'exploitation et d'inégalité.

Il a également averti que le GDPR seul «ne changera pas la structure de marchés concentrés ou ne fournira pas en soi d'incitations financières qui perturberont ou remanieront le modèle économique standard».

«La véritable vie privée dès la conception ne se produira pas spontanément sans incitations sur le marché», ajoute-t-il. “L'UE a encore la possibilité d’enraciner le droit de confidentialité des communications dans le ePrivacy Regulation en cours de négociation, mais plus d'action sera nécessaire pour prévenir concentration accrue du contrôle de la infrastructure de manipulation. "

À l’avenir, le manifeste dresse un tableau sombre de l’évolution possible des forces du marché sans intervention réglementaire axée sur la défense des droits de l’homme. “La prochaine frontière est biométrique données, ADN et ondes cérébrales – notre pensées », suggère-t-il. «Les données sont régulièrement collectées dans excès de ce qui est nécessaire pour fournir la un service; tropes standard, comme ‘améliorer notre service' et 'améliorer votre utilisateur expérience "servent de leurres pour l'extraction de loyers monopolistiques".

Il existe également un optimisme: la technologie au service de la société peut faire partie de la solution aux crises existentielles telles que le changement climatique; et que les données, collectées légalement, peuvent soutenir le bien public et la réalisation de soi des individus.

«L’ingérence dans le droit à la vie privée et aux données à caractère personnel peut être licite si elle répond à des« besoins sociaux pressants »», suggère-t-il. «Ces objectifs devraient avoir une base juridique claire, pas dans la littérature marketing des grandes entreprises. Il n’existe pas de besoin social plus pressant que de lutter contre la dégradation de l’environnement », ajoutant que: "L'UE devrait promouvoir les institutions, les organismes professionnels et les codes éthiques de confiance existants et futurs pour régir cet exercice."

Dans les cas où il est constaté que les plateformes ont systématiquement collecté illégalement des données personnelles, Buttarelli traine l’idée intéressante d’une amnistie pour les responsables de «remettre leurs ressources d’optimisation» – comme moyen non seulement de rétablir les asymétries de pouvoir et de rééquilibrer le terrain concurrentiel, mais sociétés à récupérer ces avoirs volés et à les réappliquer pour un bien commun.

Alors qu’il espère que le comité européen de la protection des données – l’organe qui oriente et coordonne les interactions entre les organes de surveillance des données des États membres de l’UE – reste «le moteur qui aide l’Assemblée mondiale à la protection de la vie privée à élaborer une vision et un programme communs pour une vie privée durable».

Le manifeste appelle également les régulateurs européens à mieux refléter la diversité des personnes dont ils sont chargés de protéger les droits.

Le document intitulé Confidentialité 2030: une vision pour l'Europe, a été publié sur le site Web de l’Association internationale des professionnels de la protection de la vie privée en prévision de sa conférence annuelle cette semaine.

Buttarelli avait l'intention – mais était finalement incapable – de publier ses réflexions sur l'avenir de la vie privée cette année, dans l'espoir d'inspirer les discussions en Europe et au-delà. En fait, le manifeste a été rédigé à titre posthume par Christian D'Cunha, responsable de son cabinet, qui écrit qu'il s'est entretenu avec le responsable de la protection des données au cours de ses derniers mois – dans le but de tracer «une trajectoire plausible de ses convictions les plus passionnées ».

Traduit de la source : https://techcrunch.com/2019/11/19/a-10-point-plan-to-reboot-the-data-industrial-complex-for-the-common-good/

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *