En Europe, les régulateurs ont officiellement demandé à Amazon de revoir sa copie concernant la protection des internautes qui transitent sur sa plateforme. L’entreprise s’est exécutée, laissant le champ libre à certains chercheurs et chercheuses pour passer au crible ses algorithmes. Dans un article publié cette semaine par Le Monde, on découvre les résultats édifiants d’une étude menée par AI Forensics et l’entreprise Check First.
Kindle fait la promotion de livres dangereux
Selon les deux organismes, qui se sont penchés sur l’algorithme de recommandation de la librairie Kindle, la plateforme d’Amazon aurait une fâcheuse tendance à mettre en avant des contenus problématiques. Dans un rapport publié ce 11 décembre, les deux entités révèlent un système opaque, qui après avoir mis en avant les livres médiocres écrits avec ChatGPT, fait “non seulement la promotion de livres trompeurs sur la santé, l’immigration, le changement climatique et les questions de genre, mais piège également les utilisateurs dans de tels récits“.
Sur les stores français et belge de l’entreprise, 2 000 livres classés parmi les plus gros best-sellers de la librairie ont été passés au crible entre octobre 2023 et novembre 2023. La grande majorité abordait des sujets de société qui sont loin de faire consensus, comme la santé, l’écologie ou l’immigration. En partant de ce point de départ, et d’un historique de recherche vierge, 60 000 recommandations ont ensuite été analysées, la plupart issues de l’onglet “Produits fréquemment achetés ensemble“.
L’espace favori des antivax
Selon les résultats de l’étude, la bibliothèque Kindle abriterait parmi ses meilleures ventes, un grand nombre de fake news. Ainsi, “pour 71,7 % des résultats de recherche d’Amazon France avec le terme “Covid”, les requêtes de recherche associées contenaient des livres d’auteurs connus pour diffuser de la désinformation“. Sur le même sujet, “80 % des livres du top 10 remettent en question l’existence de la pandémie, en minimisant ses effets sur la santé ou en la présentant comme un complot. La proportion est encore plus alarmante sur le [mot-clé] “vaccin” puisque 90 % des résultats proposent des récits anti-vaccination“.
Rien de très étonnant à cela, quand on sait que la bibliothèque Kindle est devenue la plaque tournante des auteurs et des autrices autoéditées. À défaut de trouver un éditeur, bon nombre d’internautes optent pour ce modèle économique de diffusion alternatif. De son côté, Amazon Kindle souffre d’une modération défaillante, pour ne pas dire inexistante.
Après son étude, AI Forensics rapporte au Monde : “Nos résultats mettent en évidence l’incapacité d’Amazon à mettre en place des mécanismes de base pour atténuer les risques systémiques, montrant ainsi les limites de l’autorégulation par l’IA“. Un constat d’autant plus problématique qu’en vertu de l’article 34 du DSA : “les plateformes comme Amazon sont tenues d’identifier, d’analyser, et évaluer les risques systémiques, en tenant compte de facteurs tels que les systèmes algorithmiques et la modération du contenu“. Une situation d’autant plus problématique que “les livres représentent dans l’opinion publique une source d’information légitime“, évoque l’équipe d’AI Forensics.
Une modération qui s’oublie
Les contenus antivax ne sont pourtant pas les seuls à avoir pignon sur rue dans le catalogue Amazon Kindle. En plus de certains plaidoyers xénophobes, la plateforme abrite aussi des contenus qui contreviennent à leurs propres conditions générales d’utilisation, notamment en proposant des livres aux illustrations sexuellement explicites, dont certains figurent notamment dans des catégories grand public, ou au rayon adolescent. C’est par exemple le cas des catégories young adulte et romantasy, qui connaissent un énorme succès sur les réseaux sociaux, et se vendent comme des petits pains sur les stores en ligne.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
Il n’y a pas qu’Amazon qui devrait être fustigé pour la vente de ce genre de contenu.
Promenez-vous par exemple cher E.Leclerc Espace Culturel au rayon livre. Regardez la quantité de livres sur la sorcellerie (le monde n’a jamais connu autant de sorcières autrices…), les livres écrits par les coachs de vie en tout genre qui vous donnent des conseils psy sortis du chapeau sans aucune véracité scientifique, les livres des soi-disant champions du monde de lecture rapide (une grosse arnaque bien huilée pour vendre une méthode bidon et du papier), les livres sur l’astrologie (sans commentaires…), les livres sur les méthodes de régime dangereux, les livres des antivax, les livres sur l’éducation positive qui fait des ravages dans la construction mentale des enfants et qui place en détresse psychologique des parents…
Toutes ces arnaques et dérives sont pourtant connues et dénoncées régulièrement. Et pourtant, de grands groupes comme Amazon, La Fnac, E.Leclerc Espace Culturel et quasiment toutes les librairies de quartier vendent ces livres. Un vendeur de livres n’a pas pour vocation de décider à votre place ce qui est juste ou faux dans un livre (certains le font avec courage, mais vendent de fait moins de livres…).
Alors que faire? Accoler des pastilles d’avertissement sur les livres comme cela se fait sur toute vidéo youtube qui évoque de près ou de loin la covid ?
Qui décidera que le discours d’un tel est pure fantasmagorie ? Jusqu’où devra-t-on aller dans le tri des livres selon leur contenu ? Que faire des livres religieux ? Devra-t-on leur apposer aussi une pastille ” Attention: ce livre de contes et légendes peut amener à des croyances non rationnelles ! “.
Moi, j’ai ma réponse et mon opinion. Mais ma vérité à moi est toute aussi juste ou fausse que celles écrites dans ces livres. C’est un vrai problème de civilisation. Que voulons-nous pour nos enfants, notre société actuelle et future? Laisser perdurer les croyances ou bien ouvrir l’esprit des gens pour leur permettre de ne plus avoir peur et de s’épanouir librement durant le temps de vie qui leur est imparti ?
Ce que l’article dénonce et les faits que je rappelle brièvement ici ont toujours existé, quels que soient les siècles. La différence tient à nos moyens de communication qui rendent plus visibles et donc plus largement diffusables toutes ces loufoqueries de l’esprit humain.