Pornhub durcit le ton face à la pédocriminalité. La plateforme pour adultes a rapporté il y a quelques jours un bilan assez alarmant : rien qu’au Royaume-Uni, 4,4 millions de requêtes ont été formulées sur le site pour rechercher des vidéos d’abus sexuels sur mineurs ces deux dernières années. Pour y remédier, l’entreprise a mis en place un chatbot inédit : à chaque fois qu’un internaute tapait un mot-clé ou une expression problématique, il était automatiquement redirigé sur un message d’avertissement, l’informant que ce type de contenu était illégal. Dans certains cas, un échange automatique avec un bot permettait de déclencher un protocole d’aide.
Déployé dans le cadre d’un programme d’essai baptisé reThink Chatbot, et mené avec deux organisations de protection de l’enfance basées au Royaume-Uni, ce nouveau dispositif boosté à l’IA visait avant tout à dissuader les internautes de passer à l’acte en consommant du contenu illégal. Dans une étude rapportée par Wired, on apprend que l’outil aurait entraîné à lui-seul une baisse significative du nombre de recherches CSAM (Child Sexual Abuse Material), ainsi qu’une augmentation des demandes d’aides pour un suivi psychologique.
Dissuader plutôt que punir ?
Dans son rapporte d’étude, le dispositif reThink Chatbot semble optimiste quant à l’efficacité des messages de dissuasion, qui permettraient à eux seuls de prévenir les requêtes pédocriminelles. Reste que ces dernières ont beau être nombreuses, elles ne représentent rien face au trafic global enregistré par Pornhub au Royaume-Uni (qui se hisse à la cinquième place des pays les plus consommateurs du monde). Avec son chatbot anti-pédopornographie, Pornhub fait un pas en avant, mais c’est loin d’être suffisant. Chaque année, des millions de vidéos et images CSAM sont supprimées des plateformes pour adultes, mais aussi vendues sur le dark web ou échangées sur les plateformes privées. Après un rapport publié en 2020 par le New York Times, Pornhub avait supprimé plus de 10 millions de contenus jugés problématiques.
Depuis son changement de main, et l’arrivée de la société mère Aylo dans son équation, Pornhub a mis un point d’honneur à redorer son blason, et cela passe notamment par la suppression massive de contenus jugés problématiques. La plateforme a notamment établi une liste de 34 000 termes interdits dans plusieurs langues, avec des millions de combinaisons possibles destinées à bloquer les requêtes pornographiques.
Conçu par l’Internet Watch Foundation (IWF) et la Lucy Faithfull Foundation, deux associations qui luttent contre les violences sexuelles faites aux mineurs, le dispositif a encore ses limites : sur les 2,8 millions de fois où le chatbot a été utilisé, seules les sessions ouvertes ont été comptabilisées. Ce qui signifie qu’une même personne a pu être comptée plusieurs fois.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
