Cette application réservée aux filles utilise l'IA pour filtrer les sexes des utilisateurs – qu'est-ce qui pourrait mal tourner?

Une nouvelle application sociale appelée Giggle se présente comme une plate-forme de réseautage réservée aux filles. Pour s'inscrire, les utilisateurs doivent prendre un selfie. Et même si cela peut ne pas sembler trop envahissant, l'application utilise ensuite un "logiciel de vérification du genre bio-métrique" pour déterminer si cette personne est une femme. Si ce n'était pas déjà assez mauvais, la technologie ne fonctionne pas si vous êtes trans.

«(G) iggle est pour toutes les filles», souligne la société sur son site Web, avant d'ajouter: «En raison du logiciel de vérification du genre utilisé par Giggle, les filles trans auront du mal à être vérifiées.» roman dystopique.

Giggle, fondée par le scénariste australien Sall Grover, examine soi-disant la structure osseuse du visage d'une personne pour déterminer son sexe. C’est problématique sur plusieurs fronts, notamment la structure osseuse est clairement un mauvais indicateur de l’identité de genre. Néanmoins, Giggle dit que la science est solide. «C'est de la bio-science, pas de la pseudo-science comme la phrénologie», déclare le site Web.

Sauf que cela ressemble beaucoup à de la pseudo-science. Sur Twitter, les gens ont appelé la transphobie inhérente à l'application. «Nous attendrons notre jugement comme des moutons», a écrit un utilisateur. «Il suffit d'un selfie – si le rire nous laisse entrer, nous sommes accueillis dans la société des femmes, pour passer à jamais. Sinon, nous serons abandonnés dans un tas d'abats et d'excréments. »

Grover a répondu à la critique, tweeter qu'elle avait consulté des femmes trans lors de la création de l'application et déterminé qu'il était préférable d'admettre ouvertement les limites du logiciel. "Nous avons travaillé avec des filles trans qui ont décidé qu'il valait mieux être franc avec un défaut afin qu'il n'y ait pas de mauvais sexe blessant", a-t-elle expliqué. Plus tard, elle a dit qu'elle était «reconnaissante pour la rétroaction» et a convenu que certains des mots sur le site Web étaient «hideux».

Cependant, la politique de confidentialité de l'application est également préoccupante. Comme l'a souligné un utilisateur de Twitter, Giggle peut collecter une tonne d'informations personnelles, y compris les images des personnes, l'emplacement, les préférences et les données de navigation. Giggle est ensuite en mesure de partager ces informations avec des sites Web et des services tiers, y compris des fournisseurs de reconnaissance faciale, des fournisseurs de salons de discussion et des spécialistes du marketing. Il recueille également des informations sensibles, notamment les «pratiques sexuelles ou vie sexuelle» des personnes, leur casier judiciaire et leurs informations de santé privées.

On ne sait pas pourquoi Giggle aurait besoin d'accéder à ces données granulaires, étant donné que son objectif est principalement de mettre en relation les femmes avec des colocataires potentiels ou des amis de voyage. Mais à une époque de surveillance en constante expansion, où des entreprises comme Clearview AI identifient les visages des gens à leur insu ou sans leur consentement, une application basée sur un dépistage biométrique douteux et une collecte de données approfondie devrait être source de préoccupation. Alors que le site Web de Giggle dit que l'application est «conçue pour donner aux filles le choix, le contrôle et la connexion», sa technologie semble faire exactement le contraire.

Giggle n'a pas immédiatement répondu à une demande de commentaire.



Traduit de la source : https://www.theverge.com/2020/2/7/21128236/gender-app-giggle-women-ai-screen-trans-social

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.