Ce week-end, des dizaines d’images à caractère pornographique de Taylor Swift se sont propagées sur le réseau social X. Pas de reconversion tardive pour la chanteuse américaine, mais le concours d’une redoutable intelligence artificielle capable de produire des deepfakes plus vraies que nature de la célébrité, sans son consentement. Bien que fausses, ces images ont fait le tour de la toile. Certaines ont été visionnées plus de 47 millions de fois, alertant jusqu’à la Maison Blanche. Sur X, le topic “Taylor Swift AI” est rapidement devenu l’un des sujets les plus commentés de la plateforme.
Les fans contre-attaquent
Pour tenter de venir en aide à leur célébrité préférée, les fans de la chanteuse sont rapidement montés au créneau, en diffusant par milliers des photos officielles de Taylor Swift pour noyer le flux d’images pornographiques dans un flot de contenu légitime. La technique est efficace, elle avait d’ailleurs été largement utilisée par le Parti communiste chinois, qui avait inondé Twitter d’images pornographiques en 2022, pour silencier les manifestations anti-gouvernement. Reste que si les fausses images pornographiques de Taylor Swift ont été diluées, elles existent toujours. Paradoxalement, l’offensive des “Swifties” (nom donné aux fans de la chanteuse) a contribué à renforcer la portée des hashtags concernés.
De son côté, la plateforme X a, elle aussi, été contrainte de contre-attaquer. Le 26 janvier dernier, elle a fait fermer plusieurs comptes qui avaient diffusé ces contenus pornographiques, rappelant que “Publier des images de nudité non consensuelle est strictement interdit sur X, nous avons une politique de tolérance zéro quant à ce type de contenus“. En guise de réponse à l’emballement médiatique provoqué par la diffusion de deepfakes de la chanteuse, l’entreprise a également supprimé bon nombre de contenu problématique : “Nos équipes sont en train de retirer toutes les images identifiées et de prendre les dispositions appropriées à l’encontre des comptes qui les ont publiées“. La procédure est en cours, assure X. Reste que ce lundi matin, il était toujours possible d’accéder à certaines de ces deepfakes.
L’impossible régulation des réseaux sociaux, et du porno
L’affaire Taylor Swift est symptomatique de l’Internet d’aujourd’hui. D’abord parce qu’elle illustre à elle seule toutes les problématiques liées à l’intelligence artificielle et à son déploiement massif. Derrière les deepfakes pornographiques, c’est toute la notion de respect du droit humain — en matière de consentement, mais aussi de droit à l’image, ou encore de droit d’auteur — qui est questionnée. Certains pays comme l’Italie avaient déjà fait un premier pas vers le nécessaire encadrement légal de ChatGPT et de ses consorts. Il devient désormais urgent de légiférer sur le sujet, et d’assurer une utilisation éthique et transparente des IA génératives.
Autre problématique abordée par l’affaire : l’impossible régulation des réseaux sociaux. Si Meta et le reste des “gatekeepers” américains vont devoir se conformer aux régulations européennes avec l’application prochaine du DMA. Ils vont aussi devoir faire preuve de plus de responsabilités face aux contenus qu’ils hébergent, en prenant des mesures concrètes et rapides pour supprimer les publications problématiques. Le problème, c’est que si les réseaux sociaux ont bien du mal à jongler entre modération abusive et laisser-aller ambiant, c’est X qui remporte la palme du laxisme. Le réseau social racheté par Elon Musk en 2022 avait annoncé sa volonté d’assouplir ses règles en matière de nudité et de liberté d’expression.
Aujourd’hui, et même si la pornographie est aussi présente sur Instagram, X est devenu une plateforme touche-à-tout, où les contenus toxiques et pornographiques prolifèrent… au point d’interroger l’Europe sur la nécessité d’interdire la plateforme aux mineurs.
Malheureusement, “ce qui est arrivé à Taylor Swift n’est pas nouveau, des femmes sont la cible de fausses images sans leur consentement depuis des années“, a rappelé l’élue démocrate américaine Yvette Clarke. Selon une étude réalisée en 2019, 96% des vidéos deepfakes présentes sur Internet seraient de nature pornographiques. Rien qu’en 2023, ce sont plus de 113 000 vidéos qui auraient été mises en ligne.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
