La pandémie remodèle déjà la crise de désinformation de la technologie

Depuis 2016, les sociétés de médias sociaux sont confrontées à un barrage sans fin de mauvaise presse et de critiques publiques pour ne pas avoir anticipé comment leurs plateformes pourraient être utilisées à des fins obscures à l’échelle des populations – sapant les démocraties du monde entier, disons, ou semant la division sociale et même alimentant le génocide.

Alors que COVID-19 plonge le monde dans le chaos et l’isolement social, ces mêmes entreprises peuvent faire face à un répit de critiques ciblées, en particulier avec l’industrie tirant parti de ses ressources extraordinaires pour participer aux efforts de secours de COVID-19 alors que le monde se tourne vers les nouveaux arrivants technologiques, adeptes à réduire les formalités administratives et à accélérer les progrès scientifiques en temps normal, alors que les bureaucraties gouvernementales sont à la traîne. Mais les mêmes vieux problèmes lèvent tout de même la tête, même si nous sommes moins nombreux à y prêter attention.

Sur YouTube, un nouveau rapport du Guardian et du groupe de surveillance Tech Transparency Project a révélé qu’un lot de vidéos faisant la promotion de faux traitements contre les coronavirus rapporte de l’argent à l’entreprise. Les vidéos, qui promouvaient des méthodes non scientifiques, notamment «des remèdes maison, de la musique méditative et des niveaux potentiellement dangereux de suppléments en vente libre comme la vitamine C» en tant que traitements potentiels du virus, diffusaient des publicités d’annonceurs involontaires, notamment Liberty Mutual, Quibi, Trump’s 2020. campagne de réélection et Facebook. Dans le cas de Facebook, une bannière publicitaire pour l’entreprise a été diffusée sur une vidéo suggérant que la musique qui promeut «la positivité cognitive en utilisant des ondes thêta subtiles mais puissantes» pourrait conjurer le virus.

Au début de la pandémie, YouTube a interdit les publicités sur toutes les vidéos liées au coronavirus. À la mi-mars, alors que la portée réelle de l’événement devenait claire, la société a annulé cette politique, autorisant certaines chaînes à diffuser des annonces. Jeudi, l’entreprise étendu cette politique pour autoriser les annonces pour toutes les vidéos qui respectent les consignes de l’entreprise. L’un des principaux principes de ces directives interdit la promotion de la désinformation médicale, y compris la «promotion de remèdes ou de remèdes dangereux». La plupart des vidéos du nouveau rapport ont été supprimées après avoir été signalées par un journaliste.

Cet exemple, et les nombreux autres comme celui-ci, remet en question comment juger les principales plates-formes technologiques en ces temps extrêmement étranges. Les sociétés de médias sociaux ont fait preuve d’une transparence inhabituelle quant aux changements que la pandémie crée au sein de leurs propres flux de travail. Lors d’un appel en mars, le fondateur de Facebook, Mark Zuckerberg, a admis qu’avec son armée de 15 000 modérateurs contractuels renvoyés chez eux en congé payé, les utilisateurs peuvent s’attendre à davantage de «faux positifs» alors que la société se tourne davantage vers l’intelligence artificielle pour filtrer ce qui lui appartient. la plate-forme et ce qui ne fonctionne pas. Le travail de tri à travers le contenu le plus peu recommandable d’une plate-forme – pornographie enfantine, violence extrême, discours de haine et autres – n’est pas particulièrement portable, étant donné ses ramifications psychologiques et juridiques potentielles.

YouTube a également averti qu’il «commencerait temporairement à s’appuyer davantage sur la technologie» pour remplacer les examinateurs humains, avertissant que les processus automatisés entraîneraient probablement plus de suppressions de vidéos, «y compris certaines vidéos qui ne violeraient pas les politiques». Twitter c’est noté la même nouvelle dépendance à l’égard de l’apprentissage automatique «pour prendre un large éventail d’actions sur le contenu potentiellement abusif et manipulateur», bien que la société propose un processus d’appel qui se déroule dans un évaluateur humain. Les entreprises ont émis moins d’avertissements sur ce qui pourrait passer entre les mailles du filet entre-temps.

Que deviendra la modération une fois que les choses reviendront à la normale, ou, plus probablement, s’installeront sur une nouvelle normalité? L’intelligence artificielle aura-t-elle maîtrisé la tâche, évitant le besoin de réviseurs humains une fois pour toutes? (Peu probable.) Les entreprises de médias sociaux auront-elles une nouvelle appréciation de la valeur des efforts humains et apporteront-elles davantage de ces emplois en interne, où elles pourront effectuer leur travail sombre avec plus d’avantages ensoleillés accordés à leurs homologues à temps plein? Comme la plupart des choses examinées à travers la brume cauchemardesque de la pandémie, les résultats sont au mieux flous.

Si l’approche consistant à demander des comptes aux plates-formes était déjà fragmentaire, un mélange inégal de rapports d’enquête, de tweets anecdotiques et d’autopsies officielles, la vérité sera encore plus difficile à obtenir maintenant, même si la pandémie de coronavirus offre d’innombrables nouvelles opportunités mortelles pour les prix-gougers et une myriade de mauvais acteurs pour créer le chaos dans le chaos.

Nous avons déjà vu des conséquences mortelles en Iran, où des centaines de personnes sont mortes après avoir bu de l’alcool industriel – une idée qu’elles ont eue « dans des messages transmis et redirigés » amplifiant une histoire de tabloïd suggérant que la loi pourrait les protéger du virus. La plupart des conséquences passeront probablement inaperçues au-delà des vies auxquelles elles ont un impact et ne seront pas signalées en raison du resserrement des ressources de la salle de rédaction et peut-être encore plus de contraintes d’attention.

Beaucoup de choses ont été écrites sur le coronavirus et le brouillard de guerre, la plupart se concentrant à juste titre sur la recherche scientifique qui se poursuit alors que le virus menace le monde et la réalité dévastatrice sur le terrain dans les hôpitaux et les établissements de santé débordés de patients COVID-19 tandis que les fournitures vitales diminuent. Mais la crise de la désinformation virale – et la désinformation délibérément semée – est son propre brouillard, se mêlant maintenant à une crise mondiale sans précédent qui a complètement bouleversé les affaires et dominé sans relâche le cycle de l’information. Ceci alors que la première puissance mondiale entre dans un cycle d’élection présidentielle complètement bouleversé – son premier depuis quatre ans, lorsqu’un résultat électoral inattendu couplé à un profond centrisme américain dans les cercles technologiques a révélé des forces néfastes en jeu juste sous la surface des réseaux sociaux que nous n’avait pas beaucoup réfléchi.

Dans le présent, il sera difficile pour les étrangers de déterminer où les nouveaux systèmes mis en œuvre pendant la pandémie ont échoué et quels mauvais résultats se seraient produits de toute façon. Pour trier ces causes, nous devrons prendre le mot d’une entreprise, une crédulité risquée qui offrait déjà des résultats mitigés en temps normal. Même si nous comptons sur eux maintenant plus que jamais pour forger et entretenir des connexions, les portails virtuels dans lesquels nous nous immergeons quotidiennement restent des boîtes noires, impénétrables comme jamais. Et comme pour tant d’aspects de la vie en ces temps de rupture, la seule chose à attendre est le changement.



Traduit de l’anglais de https://techcrunch.com/2020/04/03/the-pandemic-is-already-reshaping-techs-misinformation-crisis/

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.