L'avenir du travail sera-t-il éthique? Perspectives de l'examen technologique du MIT – TechCrunch

En juin, TechCrunch Ethicist in Residence Greg M. Epstein a participé à EmTech Next, une conférence organisée par le MIT Technology Review. La conférence, qui s’est déroulée dans le célèbre Media Lab du MIT, a examiné l’intelligence artificielle et la robotique qui changent l’avenir du travail.

L’essai de Greg, L’avenir du travail sera-t-il éthique? Il réfléchit aux expériences qu'il a vécues lors de la conférence, qui a engendré ce qu'il appelle «une crise religieuse, malgré le fait que je ne sois pas seulement athée confirmé, mais aussi professionnel." Dans celui-ci, Greg explore les thèmes de l'inégalité, de l'inclusion et de ce qu'elle signifie travailler dans la technologie de manière éthique, dans un système capitaliste et une économie de marché.

Une série d’interviews approfondies menées par Greg autour de la conférence, accompagnant des universitaires, des journalistes, des fondateurs et des participants, a été ajoutée à l’article pour Extra Crunch.

Ci-dessous, il parle à deux organisateurs clés: Gideon Lichfield, rédacteur en chef du MIT Technology Review, et Karen Hao, son reporter en intelligence artificielle. Lichfield a dirigé le processus créatif consistant à choisir des orateurs et à encadrer des panels et des discussions lors de la conférence EmTech Next. Lichfield et Hao ont tous deux parlé et animé des discussions clés.

Gideon Lichfield est le rédacteur en chef du MIT Technology Review. Image via MIT Technology Review

Greg Epstein: Je veux d'abord comprendre comment vous voyez votre travail – quel impact voulez-vous vraiment avoir?

Gideon Lichfield: Je décris cela comme une aspiration. La majeure partie du journalisme technologique, la majeure partie du secteur des médias technologiques, est née d'une certaine manière à l'époque juste avant le boom des cyber-entreprises. Quand il y avait beaucoup d'optimisme à propos de la technologie. Et donc je voyais dans son rôle de parler de tout ce que la technologie rend possible. Parfois dans un sens très négatif. Plus souvent dans un sens positif. Vous savez, toutes les merveilleuses façons dont la technologie va changer nos vies. Il y avait donc beaucoup de pom-pom girls à cette époque.

Ces dernières années, il y a eu beaucoup de réaction violente, beaucoup de peur, beaucoup de dystopie, beaucoup de façons dont la technologie nous menace. La façon dont j'ai formulé la mission de Tech Review serait de dire que la technologie est une activité humaine. Ce n’est ni bon ni mauvais en soi. C’est ce que nous en faisons.

Pour obtenir une technologie qui produit moins d'effets toxiques et plus bénéfiques, nous proposons aux personnes qui la construisent, l'utilisent et la régulent de prendre des décisions éclairées à ce sujet et de mieux se comprendre. Et j’ai dit que le rôle d’une publication technique telle que Tech Review, relevant d’une université telle que le MIT, probablement unique parmi les publications techniques, nous sommes bien placés pour en faire notre travail. Essayer d'influencer ces personnes en les informant mieux et en suscitant des conversations entre elles. Et c’est une des raisons pour lesquelles nous organisons des événements comme celui-ci. Pour que les meilleures décisions soient prises, la technologie ait des effets plus bénéfiques. Cela ressemble donc à l’aspiration de haut niveau. Comment pouvons-nous mesurer ce jour au jour? C’est une question récurrente. Mais c’est le but.

Ouais, je veux dire, j'imagine que vous le mesurez qualitativement. Dans le sens où… Ce que je vois quand je regarde une conférence comme celle-ci, c'est une vision éditoriale, n'est-ce pas? Je veux dire que j’imagine que vous et votre personnel organisez de nombreuses réunions de rédaction au cours desquelles vous définissez, vous savez, quels sont les thèmes clés que nous devons vraiment explorer. De quoi avons-nous besoin d'informer les gens, n'est-ce pas?

Oui.

Que voulez-vous que les gens retiennent de cette conférence alors?

Un grand nombre de personnes dans l'auditoire travaillent dans des moyennes et grandes entreprises. Et ils réfléchissent à… quel effet l’automatisation et l’IA vont-elles avoir dans leurs entreprises? Comment cela devrait-il affecter leur culture de travail? Comment cela devrait-il affecter leurs décisions haut de gamme? Comment cela devrait-il affecter leurs investissements technologiques? Et je pense que le but pour moi est, ou pour nous, qu’ils sortent de cette conférence avec une image complète des différents facteurs qui peuvent jouer un rôle.

Il n'y a pas de réponses claires. Mais ils devraient pouvoir penser de manière informée et nuancée. Si nous parlons d’automatiser certains processus, ou de sous-traiter davantage ce que nous faisons à une plate-forme de style de travail, ou de différentes manières, nous pourrions former des personnes sur notre effectif ou les aider à s’adapter à de nouvelles opportunités d’emploi, ou si nous pensons: de licencier des gens par rapport à leur recyclage. Toutes les implications qui en découlent, et toutes les décisions que vous pouvez prendre à ce sujet, nous souhaitons qu’elles y réfléchissent de manière utile afin qu’elles puissent bien prendre ces décisions.

Comme vous l'avez dit, vous parlez déjà à beaucoup de personnes qui gagnent et qui sont ici pour s'instruire et donc plus susceptibles de continuer à gagner. Comment pesez-vous où les pousser à changer fondamentalement leur façon de faire les choses, par opposition à les faire changer progressivement?

C’est une question intéressante. Je ne sais pas si nous pouvons pousser les gens à changer fondamentalement. Nous ne sommes pas un mouvement syndical. Ce que nous pouvons faire, c’est de mettre les gens des mouvements syndicaux devant eux et de les faire parler et leur dire: «C’est la conséquence des décisions que vous prenez sur les personnes que nous représentons.» Le problème avec cette conversation est qu’elle a eu lieu, jusqu’à présent, principalement parmi les personnes qui comprennent la technologie et ses conséquences. Qui était avec les gens qui le construisent et ensuite un petit groupe d'érudits qui l'étudient. Au cours des deux ou trois dernières années, j’ai assisté à des conférences comme la nôtre et celle d’autres personnes, qui traitent de questions relatives à l’éthique des technologies. Au début, seuls les techniciens et les hommes d’affaires étaient présents. Et maintenant, vous commencez à voir plus de représentation. De la part des travailleurs, des organisations communautaires, des groupes minoritaires. Mais il a fallu un certain temps, je pense, pour que la compréhension de ces problèmes se répande et que les membres de ces organisations s’assument pour la cause et se disent, oui, c’est une chose à laquelle nous devons nous intéresser.

À certains égards, il s’agit d’une conférence sur l’éthique des technologies. Si vous l’appeliez comme tel, est-ce que cela affecterait considérablement la participation? Auriez-vous moins de gens d’affaires assister à une conférence sur l’éthique des technologies plutôt qu’à une conférence sur la technologie, mais sur des questions d’éthique?

Oui, parce que je pense qu’ils diraient que ce n’est pas pour eux.

Droite.

Les gens d'affaires veulent savoir quels sont les risques pour moi. Quelles sont les opportunités pour moi? À quoi dois-je penser pour rester en tête du jeu? Nous pouvons faire valoir que les considérations éthiques font partie de ce calcul. Vous devez réfléchir aux risques que vous courrez en vous débarrassant de tout votre effectif et en faisant appel à des contractuels. Qu'est-ce que cela fait à ces travailleurs et en quoi cela représente-t-il un risque pour vous?

Oui, vous avez Mary Gray, Charles Isbell et d’autres avec des messages éthiques sérieux.

Qu'en est-il de l'idée de donner en retour par rapport à prendre moins? Joseph Menn a récemment publié un article sur le L.A. Times sur la nécessité de redonner à la technologie. Il a été question du fait que 20% des diplômés en droit de Harvard entrent dans la fonction publique après leur diplôme, mais si vous regardez les diplômés en génie, le pourcentage est inférieur à celui. Mais même en allant au-delà de cette perspective, Anand Giridharadas, auteur populaire et critique du capitalisme contemporain, pourrait dire que, même si nous aimons parler de «redonner», ce qui est vraiment important, c’est que les grandes technologies en prennent moins. En d'autres termes: payer plus d'impôts. Casser leurs entreprises afin qu'ils ne soient pas des monopoles. Peut-être payer des taxes sur des robots, ce genre de chose. Quelle est votre perspective?

Je n'ai pas d'opinion sur ces choses-là. Je pense que la question intéressante est vraiment: qu'est-ce qui peut motiver les entreprises de haute technologie, qu'est-ce qui peut motiver ceux qui gagnent beaucoup dans cette économie à donner ou à prendre moins? C’est ce qui incite les personnes qui bénéficient de la situation actuelle à sentir qu’elles doivent également s’assurer que d’autres personnes en bénéficient.

L’une des façons de parler de cette question est peut-être de soulever une question que j’ai déjà vue soulever: que diable est l’éthique technologique de toute façon? Je dirais qu’il n’ya pas d’éthique technologique. Pas au sens philosophique de votre parcours. Il y a un mouvement. Il y a une série de questions autour de ce sujet, autour de quoi devrait être la responsabilité des entreprises technologiques? Et il y a un mouvement pour essayer de répondre à ces questions.

Un tas des technologies qui ont émergé au cours des deux dernières décennies ont été considérées comme bonnes, comme étant bénéfiques. Principalement parce qu'ils étaient considérés comme démocratisants. Et il y avait ce point de vue occidental très naïf qui disait que si nous mettons la technologie et le pouvoir entre les mains du peuple, il fera nécessairement de bonnes choses avec elle. Et cela profitera à tout le monde.

Et ces technologies, y compris le Web, les médias sociaux, les téléphones intelligents, vous pouvez inclure des appareils photo numériques, vous pouvez inclure des tests génétiques pour le consommateur, tout ce qui donne beaucoup plus de pouvoir au peuple, s’est avérée capable de effets toxiques aussi.

Cela a pris tout le monde par surprise. Et la raison qui a fait naître un débat autour de l’éthique technologique est qu’il arrive également que bon nombre de ces technologies sont des technologies dans lesquelles la nature de la technologie favorise l’émergence d’un acteur dominant. En raison des effets de réseau ou parce qu'ils nécessitent beaucoup de données. La conversation a donc été la suivante: quelle responsabilité incombe à cet acteur dominant de concevoir la technologie de manière à réduire les effets nocifs? Et cela s’explique en partie par le fait que les forces qui dans le passé ont pu limiter ces effets, ou imposer des règles, ne progressent pas assez vite. Ce sont les décideurs techniques qui comprennent ce genre de choses. Les décideurs et la société civile ont mis plus de temps à rattraper leurs effets. Ils commencent à maintenant.

C’est ce que vous constatez actuellement dans la campagne électorale: bon nombre des principaux candidats disposent de plates-formes consacrées à l’utilisation de la technologie et au démantèlement des technologies de pointe. Cela aurait été impensable il y a un an ou deux.

Donc, la discussion sur l'éthique technologique dit essentiellement que ces sociétés ont connu une croissance trop rapide, trop rapidement. Quelle est leur responsabilité de se ralentir avant que tout le monde ne se rattrape?

Un autre élément qui m'intéresse est la façon dont parfois le «redonner», la générosité de grandes entreprises technologiques ou de milliardaires technologiques, ou quoi que ce soit, peut finir par être un écran de fumée. Un moyen de persuader les gens de ne pas réglementer. Ne pas reprendre son pouvoir en tant que peuple. Existe-t-il un niveau de générosité technologique qui est réellement néfaste en ce sens?

Je suppose. Ça dépend du contexte. Si tout ce qui se passe est de la responsabilité sociale des entreprises, qui consiste à déposer de l’argent dans différents endroits, mais les conséquences de la technologie elle-même ne sont pas prises en compte, et les autres actions qu’elles construisent, alors, bien sûr, c’est un problème. Mais il est également difficile de dire que donner des milliards de dollars à une cause en particulier est une mauvaise chose, à moins que le gouvernement ne se soustrait à sa responsabilité de financer cette cause, car elle relève du secteur privé. Je peux certainement voir que les États-Unis sont particulièrement sensibles à cette dynamique, où le gouvernement se défait de ses responsabilités. Mais je ne pense pas que nous soyons nécessairement là.

Traduit de la source : https://techcrunch.com/2019/11/28/will-the-future-of-work-be-ethical-perspectives-from-mit-technology-review/

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.