La technologie deepfake, qui permet de remplacer le visage d’une personne par une autre, est devenue tellement efficace qu’elle génère aujourd’hui une activité très lucrative. On ne compte plus le nombre de sites web et d’applications mobiles dans lesquels il est très simple d’intégrer son visage ou celui d’un autre individu sur des vidéos. Et le réalisme est tel qu’on peut s’y laisser prendre.
Une technologie très accessible
Si les deepfakes permettent de faire des blagues, la face sombre de cette technologie est qu’elle est aussi très utilisée pour créer des vidéos pornographiques avec des stars qui évidemment, n’ont jamais consenti à ce genre de contenus. Facebook, Messenger et Instagram ont diffusé ces dernières semaines une campagne de pub pour une application, composée de centaines de spots mettant en scène des deepfakes d’Emma Watson et de Scarlett Johansson dans des vidéos pour le moins suggestives. Aucun acte sexuel n’était visible, mais les vidéos explicites qui ont servi de modèles provenaient très clairement de films porno.
« Remplacez le visage par n’importe qui », vantait une des publicités en question, « amusez-vous avec la technologie IA de remplacement des visages ». Malgré l’absence de contenus sexuels à proprement parler, le spot suggère très fortement que l’application peut servir à générer ce genre de vidéos bidonnées. Le tweet de la journaliste Lauren Barton, qui partageait une de ces fameuses pubs, est rapidement devenu viral :
i got this ad yesterday and wow what the hell pic.twitter.com/smGiR3MfMb
— laurenbarton.bsky.social (@laurengbarton) March 6, 2023
Mis devant le fait accompli par NBC, Meta a supprimé la campagne de publicité. Depuis 2020, le groupe interdit le contenu à base de deepfake ainsi que tout contenu « adulte » (nudité, positions explicites ou suggestives, activités sexuellement provocantes).
Les publicités pour cette app étaient aussi diffusées au sein d’autres applications, comme par exemple un logiciel d’édition photo ou encore des jeux pour enfants de 9 ans et plus… Google et Apple ont également retiré l’application de leurs boutiques d’applications respectives. Il n’existe pas de directives spécifiques dans l’App Store qui concernent les apps deepfake, mais le magasin interdit les contenus diffamatoires, discriminatoires ou susceptibles d’intimider, d’humilier ou de nuire à quiconque. Une politique similaire existe pour le Play Store.
Néanmoins, une simple recherche dans ces boutiques remonte des centaines de résultats pour des applications qui ne se cachent généralement pas de pouvoir changer les visages sur des vidéos « hot ». À moins d’interdire purement et simplement ce type d’apps, ce sera un jeu constant du chat et de la souris.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
