La Silicon Valley a plus que jamais besoin d’une nouvelle approche pour étudier l’éthique

Le mois prochain, Apple et Google dévoileront des fonctionnalités pour permettre le suivi des contacts sur iOS et Android afin d’identifier les personnes qui ont été en contact avec une personne testée positive pour le nouveau coronavirus.

Les experts en sécurité ont rapidement mis en évidence les dangers potentiels, y compris les risques pour la confidentialité, tels que la révélation de l’identité des utilisateurs positifs pour COVID-19, l’aide aux annonceurs pour les suivre ou la proie des faux positifs des trolls.

Ce sont de nouvelles préoccupations dans les débats familiers sur l’éthique de la technologie. Comment les technologues devraient-ils penser au compromis entre le besoin immédiat de surveillance de la santé publique et la vie privée des individus? Et la fausse information et la liberté d’expression? Facebook et d’autres plateformes jouent un rôle beaucoup plus actif que jamais dans l’évaluation de la qualité des informations: en faisant la promotion des sources d’informations officielles et en supprimant certains messages des utilisateurs défiant la distanciation sociale.

À mesure que la pandémie se propage et, parallèlement, la course au développement de nouvelles technologies s’accélère, il est plus important que jamais que la technologie trouve un moyen d’examiner ces questions de manière approfondie. Les technologues sont aujourd’hui mal équipés pour relever ce défi: trouver un équilibre sain entre des préoccupations concurrentes – comme la vie privée et la sécurité – tout en expliquant leur approche au public.

Au cours des dernières années, les universitaires ont travaillé pour donner aux étudiants des moyens de répondre aux dilemmes éthiques posés par la technologie. L’année dernière, Stanford a annoncé un nouveau cours de premier cycle (et maintenant populaire) sur «L’éthique, les politiques publiques et le changement technologique», dispensé par des professeurs de philosophie, ainsi que de politique et d’informatique. Harvard, MIT, UT Austin et d’autres enseignent des cours similaires.

Si les seuls étudiants sont avenir cependant, les solutions seront à la traîne. Si nous voulons aujourd’hui une industrie technologique plus éthiquement informée, nous avons besoin d’une étude éthique pour la technologie pratiquants, pas seulement les étudiants universitaires.

Pour élargir cet enseignement aux praticiens de la technologie, notre fonds de capital-risque, Bloomberg Beta, a accepté d’accueillir la même faculté de Stanford pour une expérience. Sur la base de leur cours de premier cycle, pourrions-nous concevoir une expérience éducative pour les personnes âgées qui travaillent dans le secteur de la technologie? Nous avons adapté le contenu (en incorporant les dilemmes du monde réel), la structure et le lieu de la classe, créant un cours du soir de six semaines à San Francisco. Une semaine après l’annonce du cours, nous avons reçu deux fois plus de candidatures que possible.

Nous avons sélectionné un groupe diversifié d’étudiants de toutes les manières possibles, qui ont tous une responsabilité dans le domaine de la technologie. Ils nous ont dit que lorsqu’ils faisaient face à un dilemme éthique au travail, ils n’avaient pas de communauté vers laquelle se tourner – certains se confiaient à des amis ou à la famille, d’autres révélaient qu’ils cherchaient des réponses sur Internet. Beaucoup avaient peur de parler librement au sein de leur entreprise. Malgré plusieurs initiatives éthiques dirigées par l’entreprise, y compris celles qui valent la peine de nommer des responsables de l’éthique et les principes de Microsoft et IBM pour l’IA éthique, les étudiants de notre classe nous ont dit qu’ils n’avaient pas de place pour des conversations ouvertes et honnêtes sur le comportement de la technologie.

Si nous voulons aujourd’hui une industrie technologique mieux informée sur le plan éthique, nous avons besoin d’une étude éthique pour les praticiens de la technologie, pas seulement pour les étudiants universitaires.

Comme les étudiants de premier cycle, nos étudiants voulaient apprendre des universitaires et des chefs de file de l’industrie. Chaque semaine, des experts tels que Marietje Schaake, ancienne députée européenne des Pays-Bas, qui ont débattu de problèmes réels, de la confidentialité des données à la publicité politique. Les professeurs ont facilité les discussions, encourageant nos étudiants à discuter de points de vue multiples, souvent opposés, avec nos invités experts.

Plus de la moitié de la classe venait d’un milieu STEM et avait manqué beaucoup d’éducation explicite dans les cadres éthiques. Notre classe a discuté des principes d’autres domaines, comme l’éthique médicale, y compris la maxime directrice du médecin («d’abord, ne pas nuire») dans le contexte de la conception de nouveaux algorithmes. Des textes du monde de la science-fiction, comme «Ceux qui s’éloignent des omelas» d’Ursula K. Le Guin, ont également proposé des moyens de résoudre les problèmes, conduisant les élèves à évaluer comment collecter et utiliser les données de manière responsable.

Les réponses aux questions basées sur les valeurs que nous avons explorées (telles que les compromis entre la désinformation et la liberté d’expression) ne convergeaient pas vers des réponses claires «bonnes» ou «mauvaises». Au lieu de cela, les participants nous ont dit que les discussions étaient cruciales pour développer des compétences permettant de vérifier plus efficacement leurs propres préjugés et de prendre des décisions éclairées. Un étudiant a déclaré:

Après avoir parcouru une série de questions, des expériences de réflexion ou des sujets de discussion avec les professeurs, et réfléchi profondément à chacun des problèmes de sous-traitance, je me retrouvais souvent avec des positions opposées à ce que je croyais initialement.

Lorsque l’abri sur place signifiait que la classe ne pouvait plus se réunir, les participants ont tendu la main dans la semaine pour demander des sessions virtuelles – désirant un forum pour discuter des événements en temps réel avec leurs pairs dans un environnement structuré. Après notre première session virtuelle examinant comment le gouvernement, la technologie et les particuliers ont réagi à COVID-19, un participant a fait remarquer: «Il y a tellement plus de bonnes conversations à venir sur les questions, que pouvons-nous faire, que devons-nous faire, ce qui doit Nous faisons? »

Les professionnels de la technologie semblent vouloir des moyens de s’engager dans un apprentissage éthique – la tâche consiste maintenant à offrir plus d’opportunités. Nous prévoyons d’accueillir un autre cours cette année et cherchons des moyens de fournir une version en ligne, en publiant le matériel.

COVID-19 ne sera pas la dernière crise où nous comptons sur la technologie pour trouver des solutions et en avons besoin immédiatement. Si nous voulons des discussions plus éclairées sur le comportement de la technologie et que nous voulons que les personnes qui font des choix pour entrer dans ces crises soient prêtes à penser de manière éthique, nous devons commencer à former les personnes qui travaillent dans la technologie à penser de manière éthique.


Pour permettre aux élèves d’explorer des points de vue opposés et inconfortables et de partager leurs expériences personnelles, les discussions en classe étaient confidentielles. J’ai reçu l’autorisation explicite de partager les idées des étudiants ici.



Traduit de l’anglais de https://techcrunch.com/2020/04/24/silicon-valley-needs-a-new-approach-to-studying-ethics-now-more-than-ever/

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.