L'interdiction des deepfakes de Facebook a des solutions de contournement évidentes

Nous sommes habitués à ce que les réseaux sociaux attendent que les dégâts soient déjà faits avant d'annoncer un effort de nettoyage. En ce qui concerne les médias synthétiques appelés «deepfakes», ils ont été nettement en avance sur la courbe. En novembre, Twitter a annoncé un projet de politique sur les contrefaçons et a commencé à solliciter l'avis du public. Et lundi soir, Facebook a annoncé qu'il interdirait certaines photos et vidéos manipulées de la plateforme. Voici le billet de blog de Monika Bickert, vice-présidente de la gestion des politiques mondiales de Facebook:

À l'avenir, nous supprimerons les supports manipulés trompeurs s'ils répondent aux critères suivants:

– Il a été édité ou synthétisé – au-delà des ajustements pour la clarté ou la qualité – d'une manière qui n'est pas apparente pour une personne moyenne et qui induirait probablement quelqu'un en erreur en pensant qu'un sujet de la vidéo a dit des mots qu'il n'a pas réellement dit. Et:

– C'est le produit de l'intelligence artificielle ou de l'apprentissage automatique qui fusionne, remplace ou superpose le contenu sur une vidéo, le faisant paraître authentique.

Cette politique ne s'applique pas au contenu parodique ou satirique, ni aux vidéos qui ont été modifiées uniquement pour omettre ou modifier l'ordre des mots.

Cette décision intervient avant une audience prévue mercredi sur la désinformation au cours de laquelle Bickert devrait prendre la parole.

Le changement représente un pas en avant important à un moment où les inquiétudes concernant les deepfakes et leur rôle potentiel dans la formation des élections de 2020 sont très vives. La technologie s'améliore à un rythme soutenu: voyez ces entreprises vendre des personnes synthétiques (mais convaincantes) pour peupler les applications de rencontres. Il n'est pas difficile d'imaginer une campagne sans scrupules affichant des vidéos synthétiques sur Facebook ou Instagram de leur adversaire disant ou faisant quelque chose qu'ils n'ont pas fait. À ce jour, c'est officiellement contraire à la politique.

Notamment – et contrairement à ce que Facebook avait initialement dit – la politique volonté s'appliquent aux publicités ainsi qu'aux publications régulières. Créez une vidéo bidon de votre adversaire frappant un bébé phoque et Facebook fera (encore une autre) exception à sa politique contre la vérification des discours politiques dans les publicités et supprimera tout ce qui sera faux.

Pourtant, certains doutes persistaient. Nina Jankowicz, qui a publié un livre cette année sur les opérations de désinformation russes, m'a dit elle est «encore plus inquiète des contrefaçons bon marché que des contrefaçons profondes. Les vidéos et les images grossièrement éditées et délibérément trompeuses sont toujours efficaces et sont toujours autorisées sur la plupart des plates-formes. "

Qu'est-ce qu'un faux bon marché? Quelque chose comme cette vidéo de travailleurs de campagne faisant une danse ringarde en soutien au candidat à la présidence Michael Bloomberg. En réalité, ils ne sont pas du tout des travailleurs de campagne – ils sont membres du public d'un spectacle d'improvisation filmant un peu pour un comédien, qui l'a partagé sur un profil Twitter qu'il avait édité pour le faire apparaître comme s'il travaillait pour Bloomberg. La ruse a été révélée relativement rapidement, mais beaucoup de gens sont toujours tombés amoureux d'elle.

Il y a toutes sortes de façons de tromper les gens comme ça. Vous pouvez également récupérer une ancienne vidéo et y mettre une nouvelle date, ou simplement la tweeter comme si elle était toute neuve. Vous pouvez Photoshop. Vous n'avez pas besoin d'un laboratoire des médias de pointe pour faire des ravages. C’est une des raisons pour lesquelles, alors même que la technologie s’améliore, les opérations d’information ne semblent pas encore très intéressées par les deepfakes, comme l’a écrit mon collègue Russell Brandom l’année dernière. "Le téléchargement d'une vidéo manipulée par algorithme est susceptible d'attirer l'attention des filtres automatisés, tandis que le montage de film conventionnel et les mensonges évidents ne le seront pas", a écrit Brandom. "Pourquoi prendre le risque?"

Il existe une dernière solution à la nouvelle règle de Facebook: la comédie. Pour une bonne raison, Facebook permet aux gens de publier des satires et des parodies. Malheureusement, cette règle est souvent exploitée par les fournisseurs de fausses informations et d'autres sites aptes à chevaucher la frontière entre la comédie et la désinformation. La semaine dernière, à la suite de la frappe militaire en Iran, un article intitulé «Les démocrates demandent que des drapeaux flottent en berne pour pleurer la mort de Soleimani» a été publié sur un site appelé Babylon Bee. De là, il a été partagé plus de 660 000 fois sur Facebook.

Certes, certaines des personnes qui ont partagé l'article savaient que la Babylon Bee est un site satirique. Mais lisez les commentaires dans la publication Facebook originale et vous verrez que tout le monde semble croire que l'article est réel. Dans la conception aplatie du fil d'actualité, où chaque article partagé a le même poids, il peut être difficile de le dire.

Tous ces nombreux astérisques aident à expliquer pourquoi les politiciens démocrates ne semblent généralement pas impressionnés par l'interdiction des deepfakes de Facebook. "Facebook veut que vous pensiez que le problème est la technologie de montage vidéo, mais le vrai problème est le refus de Facebook d'arrêter la propagation de la désinformation", a déclaré une porte-parole de la représentante Nancy Pelosi, la star involontaire d'une célèbre trompeuse (bien qu'elle ne soit pas truquée). vidéo virale l'année dernière.

Campagne de Joe Biden a frappé une note similaire: "La politique de Facebook ne touche pas à la question centrale de savoir comment leur plate-forme est utilisée pour diffuser la désinformation, mais plutôt à quel point cette désinformation est créée professionnellement."

Pourtant, l'action de lundi n'empêche pas la société de traiter certaines de ces nuances en cours de route. Et plus nous voyons ce genre de chose en 2020, je soupçonne que ce sera le cas. Entre-temps, l'une des grandes plates-formes a établi au moins un rempart partiel contre l'infocalypse – bien que sa force dépendra entièrement de la force de Facebook. La politique, comme toujours, est ce que vous appliquez.

Mise à jour

Avant la pause, j'ai signalé ici que Pinterest avait réduit les prestations de vacances des entrepreneurs, les forçant à travailler pendant les vacances s'ils voulaient être payés pendant la semaine de Noël. Après avoir publié cet article, les employés étaient contrariés et l'entreprise a inversé le cap. Les entrepreneurs ont eu leur semaine de congé après tout, tout comme les employés à plein temps de Pinterest. "Nous avons réalisé que notre communication de ce changement était peut-être arrivée trop tard dans l'année pour que les gens planifient en conséquence pour cette saison des fêtes", m'a dit un porte-parole. "

Pas grand chose de plus à dire ici, à part que le journalisme est le meilleur métier du monde et que personne ne vous dise autre chose.

Le rapport

Aujourd'hui, dans les nouvelles qui pourraient affecter la perception du public des grandes plateformes technologiques.

Tendance à la hausse: Facebook Les collectes de fonds ont généré 37 millions de dollars pour les secours en cas d'incendie en Australie, selon la société. À elle seule, la collecte de fonds de l’acteur Celeste Barber a permis de collecter 30 millions de dollars auprès de 1,1 million de personnes, et est désormais la plus importante collecte de fonds de l’histoire de Facebook.

Tendance latérale: Facebook met en place une nouvelle équipe d'ingénieurs à Singapour pour se concentrer sur ses activités publicitaires lucratives en Chine. La nouvelle survient alors que le PDG Mark Zuckerberg a intensifié les critiques du pays sur les questions des droits de l'homme.

Tendance latérale: Les actions de Google ont atteint un niveau record hier, clôturant à 1 397,81 $ par action. Apparemment, les investisseurs ne sont pas dérangés par l'enquête antitrust en cours sur l'entreprise, ainsi que par les troubles des employés.

Gouvernant

⭐ Le FBI a demandé Pomme pour aider à débloquer deux iPhones liés à une fusillade à la Naval Air Station à Pensacola, en Floride, le mois dernier. Apple a indiqué qu'il avait coopéré avec le gouvernement et avait déjà remis toutes les données en sa possession. Voici ce que l'entreprise a dit à Pete Williams à NBC:

"Nous avons le plus grand respect pour l'application des lois et nous avons toujours travaillé en coopération pour aider dans leurs enquêtes", a déclaré Apple dans un communiqué. «Lorsque le FBI nous a demandé des informations sur cette affaire il y a un mois, nous leur avons donné toutes les données en notre possession et nous continuerons à les soutenir avec les données dont nous disposons.»

Un responsable de l'application des lois a déclaré qu'il y avait un problème supplémentaire avec l'un des iPhones qui appartiendrait à Alshamrani, qui a été tué par un député lors de l'attaque: il a apparemment tiré une balle dans le téléphone, compliquant encore les efforts pour le déverrouiller.

⭐ Une fuite Facebook Une note de service montre que le cadre de longue date, Andrew «Boz» Bosworth, a déclaré aux employés que l'entreprise avait le devoir moral de ne pas faire pencher la balance contre le président Trump lors des élections de 2020. Kevin Roose, Sheera Frenkel et Mike Isaac de Le New York Times avoir le scoop:

Dans un message sinueux de 2 500 mots, intitulé «Réflexions pour 2020», M. Bosworth a pesé sur des questions telles que la polarisation politique, l'ingérence russe et le traitement des médias par Facebook. Il a donné une évaluation franche des lacunes de Facebook ces dernières années, affirmant que la société avait été «en retard» pour résoudre les problèmes de sécurité des données, de désinformation et d'ingérence étrangère. Et il a accusé la gauche de dépassement de soi, disant que lorsqu'il s'agissait d'appeler des gens nazis, "je pense que mes collègues libéraux sont un peu trop, eh bien, libéraux".

Boz a ensuite partagé le mémo dans son intégralité à partir de son propre Facebook page. Lis le.

La Maison Blanche a dévoilé 10 principes que les agences fédérales devraient prendre en considération lors de l'élaboration de lois et de règles pour l'utilisation de l'intelligence artificielle dans le secteur privé, mais a souligné qu'une préoccupation clé devrait être de limiter la «portée excessive» réglementaire. (James Vincent / Le bord)

L'élection de 2020 est probablement l'événement le plus attendu de l'histoire des États-Unis en matière de sécurité numérique. La Russie représente toujours une menace massive, tout comme l'Iran et la Chine. Les experts avertissent également que ce ne sont pas seulement les élections générales qui sont menacées – les primaires seront également une cible. (Joseph Marks / The Washington Post)

Les experts avertissent que les États-Unis doivent se préparer aux cyber-représailles de l'Iran, qui utilise des tactiques différentes de celles de la Russie. L'Iran a passé des années à construire un appareil d'influence en ligne qui utilise de faux sites Web et des articles destinés à imiter les vraies nouvelles et à disparaître rapidement. (Sara Fischer / Axios)

Sonos poursuivi Google, demandant des dommages et intérêts et une interdiction de vendre les haut-parleurs, les smartphones et les ordinateurs portables de Google aux États-Unis. Sonos a accusé Google d'avoir enfreint cinq de ses brevets, y compris la technologie qui permet aux haut-parleurs sans fil de se connecter et de se synchroniser. (Jack Nicas et Daisuke Wakabayashi / Le New York Times)

Un chercheur a plongé dans les récits entourant la mort de Qassem Soleimani, l'un des principaux commandants iraniens, sur l'une des plateformes de médias sociaux les plus populaires d'Iran, Télégramme.

Alors que Taiwan se prépare pour une élection majeure cette semaine, les responsables et les chercheurs craignent que la Chine expérimente la manipulation des médias sociaux pour influencer le vote. Les électeurs sont déjà inondés d'informations fausses ou très partisanes, ce qui rend ces tactiques faciles à cacher. (Raymond Zhong / Le New York Times)

La violence a éclaté à l'Université Jawaharlal Nehru en Inde la semaine dernière, après que des membres d'un groupe d'étudiants – apparemment coordonnés par WhatsApp – attaqué des camarades de classe et des enseignants. Une enquête sur le groupe a révélé qui étaient les agresseurs et comment ils ont coordonné la violence. (Meghnad S, Prateek Goyal et Anukriti Malik / Newslaundry)

Industrie

⭐ Les politiciens, les partis et les gouvernements embauchent des entreprises de relations publiques dans le domaine des arts sombres pour répandre les mensonges et la désinformation. Une entreprise a promis «d'utiliser tous les outils et de profiter de tous les avantages disponibles pour changer la réalité selon les souhaits de nos clients». Craig Silverman, Jane Lytvynenko et William Kung ont l'histoire:

Si la désinformation en 2016 a été caractérisée par des spammeurs macédoniens poussant les fausses nouvelles pro-Trump et des trolls russes qui sévissent sur les plateformes, 2020 s'annonce comme l'année où les professionnels de la communication à la location fournissent des opérations de propagande en ligne sophistiquées à toute personne désireuse de payer.

De plus, la menace ne se limite pas aux États-Unis:

Plus récemment, fin décembre, Twitter annoncé il a supprimé plus de 5 000 comptes qui, selon lui, faisaient partie «d'une importante opération d'information soutenue par l'État» en Arabie saoudite menée par la société de commercialisation Smaat. Le même jour, Facebook a annoncé le retrait de centaines de comptes, pages et groupes qui, selon lui, étaient impliqués dans des «ingérences étrangères et gouvernementales» au nom du gouvernement géorgien. Il a attribué l’opération à Panda, une agence de publicité en Géorgie, et au parti au pouvoir du pays.

Les start-ups de l'IA vendent des images de visages générés par ordinateur qui semblent être de vraies personnes. Ils offrent aux entreprises la possibilité «d'augmenter la diversité» de leurs annonces sans avoir besoin d'êtres humains. Ils ont également signé des applications de rencontres qui ont besoin de plus d'images de femmes. (Drew Harwell / The Washington Post)

La nouvelle astuce pour devenir viral Instagram crée un filtre Instagram, comme en témoigne la sensation étonnamment populaire de "Quel personnage de Disney êtes-vous?". Cette histoire décompose comment cela fonctionne. (Chris Stokel-Walker / Contribution)

Michelle obama a lancé un Instagram série de vidéos sur les étudiants qui naviguent en première année de collège. L'ancienne Première Dame s'est associée à la société de médias numériques ATTN: pour lancer une série de vidéos sur IGTV, la plateforme vidéo d'Instagram. (Sara Fischer / Axios)

Le salon du gadget CES à Las Vegas est tout-en-un sur la technologie de surveillance, des scanners de visage qui enregistrent certains participants à la gamme de caméras numériques partout dans le monde. (Matt O’Brien / Associated Press)

Et enfin…

Malheur au grand dirigeant de la technologie qui utilise une métaphore étendue sur le Seigneur des Anneaux sans vérifier ses faits. Voici Chaim Gartenberg sur le mémo de Boz:

Dans le cadre de son argumentation, Boz fait la comparaison en citant nul autre que J.R.R. Tolkien’s Le Seigneur des Anneaux pour expliquer sa décision. Facebook, soutient Boz, s'apparente à One Ring de Sauron, et exercer son pouvoir – même avec une noble intention – ne conduirait qu'à la ruine. (…)

Dans les livres de Tolkien et les adaptations du film, Galadriel est préoccupé par le pouvoir de l'Anneau la corrompant – comme il le fait tout, sauver le Seigneur des Ténèbres lui-même. Mais pas une seule fois elle n'envisage d'utiliser son pouvoir pour de bon. «À la place du Seigneur des Ténèbres, tu établiras une reine. Et je ne serai pas sombre, mais beau et terrible comme le matin et la nuit! .. Tous m'aimeront et désespéreront! »Écrit Tolkien.

Plus tard, les nerds.

Parle-nous

Envoyez-nous des conseils, des commentaires, des questions et le Seigneur des Anneaux analogies casey@theverge.com et zoe@theverge.com.



Traduit de la source : https://www.theverge.com/interface/2020/1/8/21054906/facebook-deepfakes-ban-loopholes-parody-satire-cheap-fakes

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.