L’IA de Facebook confond des personnes noires avec des primates

L’information vient du New York Times, et elle est particulièrement dommageable pour l’entreprise de Mark Zuckerberg. Il y a un an, le tabloïde britannique Daily Mail diffusait sur Facebook une vidéo baptisée “Un homme blanc appelle la police contre des hommes noirs à la marina”. La vidéo mettant en scène des hommes noirs aurait pu passer inaperçue, mais c’était sans compter sur la recommandation de l’algorithme Facebook qui posait  la question “Voir plus de vidéos de primates ?” après son visionnage.

Partagée il y a quelques jours par une ancienne designer de Facebook puis largement relayée, l’information a rapidement suscité de vives critiques à l’encontre du réseau social. De son côté, Facebook n’a pas caché sa gêne, en faisant savoir via un porte-parole que l’erreur était “inacceptable” : “Nous présentons nos excuses à quiconque a vu ces recommandations insultantes”. L’entreprise a rapidement désactivé son outil de recommandation, et entend désormais trouver une solution à cet épineux problème.

Manque de diversité chez sur l’algorithme Facebook ?

Après ce faux pas, l’entreprise californienne a désormais pour objectif de perfectionner son intelligence artificielle pour éviter que ce type “d’incidents” ne se reproduise. “Même si nous avons amélioré nos systèmes d’intelligence artificielle, nous savons qu’ils ne sont pas parfaits et que nous avons des progrès à faire” indiquait ainsi le porte-parole de la firme américaine. Accusé de ne pas assez s’investir dans la lutte contre le racisme et les discriminations, Facebook sait qu’il est déjà sur la corde raide sur le sujet. En novembre 2019, une douzaine d’employés dénonçaient une culture d’entreprise “hostile à tous ceux qui ne sont pas blancs”.

Pour autant, ce manquement de la part de l’algorithme de Facebook est surtout révélateur d’un problème systémique : le manque de représentation de personnes racisées, et la présentation de la figure blanche comme la “norme”. Le réseau social n’a sans doute pas cherché à être sciemment raciste en associant des personnes noires à des primates, mais le peu de représentation de personnes noires dans sa base de données a sans doute contribué au manque d’entraînement de son intelligence artificielle, et donc à cette erreur.

🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.