En avril dernier, Twitter lançait une vaste campagne d’observation de son algorithme et ses “potentiels dommages involontaires.” Cette étude, organisée avec le soutien du village AI de DEF CON s’est notamment concentrée sur le recadrage automatique des clichés publiés sur le réseau social. L’année dernière, ce dernier était accusé de souvent se focaliser sur les personnes avec une peau plus claire. Même si l’outil a depuis été désactivé, et que les images sont désormais publiées comme telles sur le fil d’actualité, l’oiseau bleu joue la carte de la transparence en dévoilant les résultats de ses analyses détaillées.
Sans surprise, ils confirment les doutes de nombreux internautes. Menée par plusieurs équipes d’ingénieurs informatiques, elle met en lumière les critères physiques préférés du réseau social. Il aurait ainsi tendance à choisir les femmes au détriment des hommes et à mettre l’accent sur les personnes aux peaux claires. Le même constat s’applique lorsque l’un des protagonistes sur l’image a les cheveux gris, l’outil serait plus enclin à recadrer l’image en se focalisant sur les plus jeunes.
Concrètement, il favorise les visages “minces, jeunes, de couleur de peau claire et avec une texture de peau lisse, et des traits du visage stéréotypés féminins.” Le grand gagnant de ce concours est un étudiant suisse de l’université EPFL nommé Bodgan Kulynych. Il a utilisé un programme d’intelligence artificielle baptisé StyleGAN2 pour générer une grande quantité de visages réalistes qu’il a modifié selon plusieurs critères comme la couleur de la peau, la minceur et l’âge. Il a ensuite introduit toutes ces variantes dans l’algorithme de recadrage pour déterminer les habitudes du logiciel.
Twitter prend ses responsabilités
Lors de la présentation des résultats, Rumman Chowdhury, directeur de l’équipe META de Twitter (qui étude l’éthique, la transparence et la responsabilité de l’apprentissage automatique) a expliqué cette volonté de la part de Twitter de revoir son algorithme.
“Quand nous pensons aux biais dans nos modèles, il ne s’agit pas seulement de l’universitaire ou de l’expérimental, mais de la façon dont cela fonctionne également avec notre façon de penser dans la société […] nous créons ces filtres parce que nous pensons que c’est ce qui est beau et cela finit par former nos modèles et conduire à ces notions irréalistes de ce que signifie être séduisant.”
La stratégie de la firme est donc assez claire : laisser le champ libre à ses utilisateurs en dévoilant les coulisses de ses outils de recommandations. Une approche radicalement opposée à celle des autres acteurs du secteur numérique, qui préfèrent garder secrets leurs algorithmes.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
JDG qui commence à faire de la propagande anti-blanche et BLM..
Je ne frequenterai plus votre site.
À jamais.
J’ai rien compris a l’article (c’est pas très clair faut dire…) mais en gros j’ai compris que Twitter privilégiait la beauté sur la laideur ? Et alors ?