Comment les grandes entreprises technologiques pourraient s'associer pour arrêter les deepfakes

Merci à tous ceux qui sont venus pour l’événement à guichets fermés de la nuit dernière avec Anna Wiener! Nous avons hâte de vous rencontrer encore plus lors de notre prochain Interface Live. Attendez-vous aux détails bientôt!

Le président a été acquitté de justesse lors de son procès en destitution au Sénat mercredi, les partisans républicains ayant même refusé d'entendre des preuves dans l'affaire. Cette décision a inauguré une nouvelle ère légitimement effrayante de la politique américaine, dans laquelle Trump a effectivement laissé libre cours à ses impulsions les plus corrompues et autoritaires, avec peu ou pas de raison de craindre que le pouvoir législatif le tienne en échec. (Il a célébré l'acquittement en tweetant un graphique lui montrant rester au pouvoir pendant des dizaines de milliers d'années.)

Les institutions qui soutiennent notre démocratie – qui défendent l'État de droit – s'érodent. C'est l'une des raisons pour lesquelles la propagation de la désinformation, des discours de haine et d'autres contenus malveillants sur les plates-formes sociales a ressemblé à une telle crise au cours des trois dernières années. Une grande partie de notre discours politique se déroule sur ce que nous voyons sur Facebook, YouTube et Twitter, ou en est informé. Au fur et à mesure qu’ils ont grandi en taille et en influence, ils sont tous devenus des institutions à part entière. Une question ouverte est de savoir s'ils peuvent avoir un effet positif sur le maintien des valeurs démocratiques et de l'État de droit – ou s'ils vont accélérer la polarisation de l'électorat jusqu'à ce qu'elle atteigne un point de rupture terrible.

Pour cette raison, nous prêtons attention ici lorsque les plateformes prennent des mesures pour lutter contre la désinformation. Certes, même un environnement d'information parfait ne garantit pas un bon résultat dans une démocratie – l'affaire contre Trump incluait plusieurs armes à feu, et les sénateurs républicains ont simplement choisi de les ignorer – mais la gouvernance bénéficie d'un ensemble de faits partagés. Voyons donc ce qu’ils font.

Lundi, YouTube a présenté ses politiques de gestion de la désinformation. Aucune de ces politiques n'est nouvelle, mais l'annonce a servi de sorte de déclaration d'objectif avant le (désastreux!) Caucus de l'Iowa. Voici Julia Alexander dans Le bord:

En ce qui concerne les vidéos manipulées, YouTube supprimera «le contenu qui a été techniquement manipulé ou trafiqué d'une manière qui induit les utilisateurs en erreur (au-delà des clips sortis de leur contexte) et peut présenter un risque grave de préjudice flagrant». vidéo de la présidente de la Chambre, Nancy Pelosi, qui a été manipulée pour la faire paraître intoxiquée. (…)

Les vidéos qui indiquent également aux gens des informations incorrectes sur le vote, y compris les tentatives d'induire les gens en erreur en utilisant une date de vote incorrecte, ne sont pas non plus autorisées. Il n'y a pas non plus de vidéos qui avancent de «fausses allégations liées aux exigences techniques d'éligibilité des candidats politiques actuels et des élus du gouvernement pour siéger. , aime et commente une vidéo.

Les plates-formes technologiques répugnent généralement à évaluer les affirmations de vérité, en particulier celles impliquant des politiciens, mais les trois grands sont tous déterminés à supprimer tout ce qui donne une mauvaise date pour une élection. Confiance dans la modération du contenu! Tu aimes le voir.

Mardi, Twitter a emboîté le pas avec de nouvelles politiques pour lutter contre la désinformation – en particulier, les photos et vidéos modifiées, ou comme on les appelle de plus en plus, les médias synthétiques. À partir de mars, Twitter a déclaré qu'il ajouterait des étiquettes ou supprimerait purement et simplement les tweets truqués. Voici Davey Alba et Kate Conger dans le New York Times:

Pour déterminer si un tweet doit être supprimé ou étiqueté, Twitter dit dans un article de blog, il appliquera plusieurs tests: le média inclus avec un tweet est-il significativement modifié ou fabriqué pour induire en erreur? Est-il partagé de manière trompeuse? Dans ces cas, le tweet obtiendra probablement une étiquette.

Mais si un tweet est "susceptible d'avoir un impact sur la sécurité publique ou de causer un préjudice grave", il sera supprimé. Twitter a déclaré que cela pourrait également avertir les gens avant qu'ils n'engagent avec un tweet contenant du contenu manipulé, ou limiter la portée de ce tweet.

C'est beaucoup plus difficile que de supprimer les tweets qui donnent une fausse date d'élection. D'une part, cela laisse ouverte la question de savoir comment Twitter va gérer la parodie et la satire. Pourtant, j'ai aimé cette citation de Yoel Roth, responsable de l'intégrité du site de l'entreprise: «Que vous utilisiez des outils avancés d'apprentissage automatique ou que vous ralentissiez simplement une vidéo en utilisant une application à 99 cents sur votre téléphone, notre objectif dans le cadre de cette politique est de regardez le résultat, pas comment il a été atteint. "

L'examen des résultats est un cadre utile pour prendre des décisions politiques individuelles. Il y a beaucoup de terribles contenus sociaux qui sont essentiellement inoffensifs, car personne ne les voit. Et puis il y en a quelques-uns qui deviennent viraux et font beaucoup de dégâts. Il est logique que Twitter concentre ses efforts de modération à ce niveau. Promettre d'intervenir dans les cas où il y a un préjudice grave n'est pas seulement raisonnable – il est également évolutif.

Ailleurs, le chercheur en désinformation, Aviv Ovadya, a de bonnes suggestions sur la manière dont les plateformes technologiques peuvent répondre à la menace des médias synthétiques. Mon préféré: ils pourraient utiliser leurs pouvoirs de monopole pour obliger les développeurs d'applications à insérer des filigranes – qui pourraient ensuite être facilement détectés par d'autres monopoles technologiques. Ovadya écrit:

Un autre levier qui pourrait rendre ces contrôles plus omniprésents serait si les magasins d'applications Apple et Google avaient besoin de tous les outils de médias synthétiques pour les mettre en œuvre. Cela aurait alors ces entreprises ayant un impact création et partiellement gouvernant comment les médias synthétiques peuvent être créés sur leurs plateformes. Enfin, une entreprise comme Facebook profite également de l'existence de filigranes cachés pour traiter différemment le contenu synthétisé, impactant Distribution (et gouvernant leur propre influence; bien qu'ils puissent être en mesure d'offrir une partie de ce pouvoir de gouvernance à des organismes indépendants, comme ils le font avec des vérificateurs de faits tiers).

Toutes ces restrictions ont un impact limité – par exemple, les acteurs malveillants peuvent toujours trouver des outils qui n'ont aucun contrôle. Mais avec les bonnes incitations, ces outils sont probablement plus difficiles d'accès et de qualité inférieure, car ils peuvent être plus difficiles à monétiser s'ils ne sont pas disponibles sur les plates-formes populaires. Aucune atténuation à ce défi n'est une solution miracle. Nous avons besoin d'une défense en profondeur.

Bon nombre des préoccupations que j'ai à propos de la Big Tech trouvent leur origine dans la taille même des entreprises et toutes les conséquences imprévues qui viennent avec l'échelle. Si les gros gars veulent montrer la avantages qui viennent avec une échelle, insistant sur un écosystème que les filigranes des supports synthétiques pourraient être un excellent point de départ.

Le rapport

Aujourd'hui, dans les nouvelles qui pourraient affecter la perception du public des grandes plateformes technologiques.

Tendance à la hausse: Youtube a envoyé à Clearview AI une lettre exigeant que la société de reconnaissance faciale cesse de gratter son site pour créer une base de données de visages pour les forces de l'ordre. Le PDG de Clearview a clairement indiqué qu'il prévoyait de le combattre – et un précédent juridique est de son côté.

Tendance à la baisse: Instagram fait toujours la promotion du contenu anti-vaxx. Il continue de dire qu'il a supprimé les informations erronées sur les vaccins, mais les journalistes continuent de les trouver.

Gouvernant

⭐ Des experts en cybersécurité examinés L'application du caucus de l'Iowa condamné et a dit qu'il avait l'air "jeté à la hâte ensemble" et qu'il a été construit par quelqu'un qui "suivait un tutoriel". Faites-les glisser! Jason Koebler, Joseph Cox et Emanuel Maiberg de Vice expliquer ce qui s'est passé:

Les experts en sécurité électorale disent depuis des années que nous ne devons pas mettre les systèmes électoraux en ligne et que nous ne devons pas utiliser d’applications pour transmettre les résultats. Et, si les responsables électoraux américains sont va utiliser des applications comme celle-ci, qu'elles devraient être ouvertes à un examen approfondi et à des audits de sécurité indépendants.

«Nous étions vraiment inquiets du fait qu'il y avait tellement d'opacité. Je l'ai répété maintes et maintes fois, la confiance est le produit de la transparence et de la communication. La DNC a fermement refusé d'offrir toute transparence. Il était difficile de savoir à quoi s’attendre, sauf le pire », a déclaré Greg Miller, cofondateur du Institut de technologie électorale open source, qui publiquement a mis en garde l'IDP contre l'utilisation de l'application il y a quelques semaines, a déclaré Motherboard.

Ombre, la société derrière l'application Iowa caucus, fait partie d'un réseau de startups connectées à une organisation à but non lucratif bien financée Acronyme. Voici comment il a décroché un contrat avec le Parti démocrate de l'Iowa – et pourquoi le projet a si mal tourné. (Emily Glazer, Deepa Seetharaman et Alexa Corse / Le journal de Wall Street)

La première contestation judiciaire de la loi de Singapour contre la désinformation en ligne a été rejetée aujourd'hui. C’est un coup dur pour les opposants qui disent que la loi est utilisée pour étouffer la dissidence avant les élections. C'est le cas, vous savez.

Le ministère de la Justice intensifie sa enquête antitrust sur Google, s'adressant à plus d'une douzaine d'entreprises, dont des éditeurs, des agences de publicité et des agences. Cette décision suggère que les outils publicitaires en ligne de Google sont devenus un objectif majeur de l'enquête. (Keach Hagey et Rob Copeland / Le journal de Wall Street)

Le conseiller de la Maison Blanche, Peter Navarro, a déclaré Amazone PDG Jeff Bezos soutenu d'une réunion que les deux avaient prévu, concernant les produits contrefaits sur la plate-forme. Une porte-parole d'Amazon a déclaré que des cadres supérieurs avaient rencontré Navarro et d'autres responsables de la Maison Blanche "à plusieurs reprises". (Jeff Stein et Abha Bhattarai / The Washington Post)

Amazon la recherche d’incitations gouvernementales pour son deuxième siège social aurait été motivée en partie par Jeff Bezos' jalousie de Elon Musk. Bezos voulait qu'Amazon reçoive des documents du gouvernement de la taille Tesla l'a fait lors de l'ouverture de son usine au Nevada. (Spencer Soper, Matt Day et Henry Goldman / Bloomberg)

La nouvelle loi californienne sur la confidentialité a créé un nouveau marché pour les startups axées sur la confidentialité. Ils proposent un nettoyage des données personnelles et des logiciels pour aider les entreprises à se conformer à la loi. (David Ingram / NBC)

L'année dernière, Waymo reclassifié certains de ses employés de sous-traitants à fournisseurs. Maintenant, ces mêmes travailleurs se plaignent des avantages réduits et des clients indisciplinés. Ils disent que l'entreprise n'a pas été très sensible à leurs préoccupations. (Colin Lecher et Andrew J. Hawkins / Le bord)

Les masques faciaux sont obligatoires dans au moins deux provinces chinoises, car le gouvernement essaie de contenir le coronavirus. Maintenant, les résidents disent que les masques déclenchent la technologie de reconnaissance faciale, qui est utilisée pour de nombreuses transactions quotidiennes. (Anne Quito / Quartz)

Des entreprises comme WeChat et ByteDance travaillent à arrêter la désinformation sur le coronavirus en Chine. Ils comblent un vide laissé par le gouvernement qui tarde à reconnaître la crise. (South China Morning Post)

Les régulateurs irlandais ont ouvert des enquêtes Google et tinder sur la façon dont ils traitent les données des utilisateurs. Ils ont actuellement 23 enquêtes en cours sur les grandes entreprises technologiques américaines, qui comprennent également Facebook et Twitter. (Presse associée)

Industrie

Facebook ferme le volet Web mobile de son réseau d'audience à partir du 11 avril. Le réseau a offert aux annonceurs un moyen d'étendre leurs campagnes publicitaires Facebook à un réseau d'applications tierces. Lara O’Reilly à Digiday explique la décision:

L'environnement Web ouvert en dehors des propriétés de Facebook a considérablement changé au fil des ans depuis le lancement de son réseau d'audience. La majorité des navigateurs ont désormais désactivé le suivi Web tiers par défaut. Et Google, dont le navigateur Web détient la plus grande part de marché, a indiqué le mois dernier qu'il prévoyait de désactiver la prise en charge des cookies tiers d'ici deux ans. Cette décision entraverait probablement le réseau d'audience de Facebook.

L'environnement d'appel d'offres ouvert en temps réel est également de plus en plus surveillé par les régulateurs, en particulier en Europe où l'autorité de protection des données du Royaume-Uni a demandé à plusieurs reprises aux entreprises de technologie publicitaire de nettoyer leur acte ou bien encourir des sanctions en vertu du règlement général européen sur la protection des données.

Facebook émis un avis de sécurité concernant une faille dans WhatsApp Bureau qui pourrait permettre à un attaquant d'accéder à distance aux fichiers sur l'ordinateur d'un utilisateur. La société a expédié une nouvelle version de l'application pour corriger la faille. (Sean Gallagher / Ars Technica)

Jeff Weiner a annoncé qu'il démissionne de son poste de PDG de Linkedin, après 11 ans à la tête de l'entreprise. Ryan Roslansky, vice-président senior des produits de LinkedIn, prend la relève. Weiner deviendra président exécutif – un faux travail digne d'un ancien PDG de LinkedIn. (Nicholas Thompson / Filaire)

Le média pro-Trump The Epoch Times a commencé à verser de l'argent dans Youtube annonces, après avoir été lancé Facebook l'année dernière. Le document est connu pour diffuser des théories du complot. (Kevin Roose / Le New York Times)

Youtube s'est engagé à dépenser 100 millions de dollars pour des programmes pour enfants. Il est axé sur des vidéos qui "génèrent des résultats associés aux forces des personnages suivants": courage, compassion, communication, gratitude, curiosité, humilité, travail d'équipe, intégrité, persévérance, maîtrise de soi, empathie et créativité. Faites regarder le président! (Lucas Shaw / Bloomberg)

BuzzFeed recrute des adolescents pour faire des élections TIC Tac et Instagram vidéos. Les ambassadeurs adolescents feront partie de la couverture 2020 du point de vente. (Sarah Scire / NiemanLab)

Justin Bieber essaie vraiment de rendre sa chanson "Yummy" virale TIC Tac. C'est le dernier exemple de la pertinence culturelle de la plate-forme – et de la façon dont les étoiles sont éternellement damnées pour maîtriser de nouvelles plates-formes si elles espèrent conserver leur place dans le zeitgeist. (Julia Alexander / Le bord)

tinder a généré un chiffre d'affaires de 1,2 milliard de dollars l'an dernier, selon le dernier communiqué de presse de la société. Sa maison mère Groupe de match fait 2,1 milliards de dollars, ce qui signifie que Tinder représente la moitié de ses revenus. (Ashley Carman / Le bord)

Tinder's le chef de produit, Ravi Mehta, a quitté l'entreprise après moins d'un an à ce poste. Il aurait affronté le PDG Elie Seidman au sujet de la direction de l'application. Maintenant, Seidman dirigera l'équipe produit. (Alex Heath / L'information)

Et enfin…

Ça a été une décennie difficile pour Tyler.

Parle-nous

Envoyez-nous des conseils, des commentaires, des questions et des raisons d'espérer dans la démocratie américaine. S'il vous plaît! casey@theverge.com et zoe@theverge.com.



Traduit de la source : https://www.theverge.com/interface/2020/2/6/21124934/misinformation-policies-youtube-twitter-deepfakes-synthetic-media

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.