C’est une bien sombre trouvaille que relaye aujourd’hui The Verge dans ses colonnes, suite à une enquête de la société de sécurité Sensity, spécialisée dans les deepfakes. Les chercheurs ont découvert un immense réseau d’échange de faux nus sur des chaînes publiques de l’application Telegram. Au total, plus de 100 000 images ont été générées par le biais d’un outil de deepfake jusqu’au mois de juillet de cette année. Ces images ont été partagées et même vendues aux utilisateurs de ces chaînes sur Telegram, qui proviendraient à 70% de Russie d’après l’enquête. Surtout, ces deepfakes s’appuient sur des images de personnes bien réelles, glanées ici et là sur Instagram et les autres médias sociaux. L’outil automatique mis en place sur Telegram permet aux utilisateurs de rentrer des images d’une personne qu’ils connaissent et de générer des faux nus grâce à la technologie de deepfake. Si ces robots sont gratuits, ils génèrent des faux nus contenant d’imposants filigranes, et proposent de « découvrir » la personne ciblée totalement nue pour un certain montant (100 roubles – soit un peu plus d’un euro – pour générer 100 faux nus sur une période de sept jours).
Pour créer ces faux nus, ces réseaux utilisent un logiciel appelé DeepNude, apparu pour la première fois en juin dernier. Même si son créateur a fini par supprimer l’outil, ce qui devait arriver arriva : le logiciel s’est retrouvé accessible dans des recoins du web sous forme open source. DeepNude utilise la technique des GAN – generative adversarial networks – soit des « réseaux antagonistes génératifs » afin de créer ces deepfakes. D’après The Verge, les résultats sont particulièrement réussis, si bien qu’on pourrait tout à fait douter de l’authenticité des images générées de la sorte. Le média et la société Sensity ont contacté Telegram afin de leur demander pourquoi ils autorisaient ce type de contenu sur leur plateforme, mais n’ont pas encore obtenu de réponse à l’heure où nous écrivons ces lignes. Cet exemple n’en reste pas moins typique des dérives que peut entrainer la technologie des deepfakes, et des terribles conséquences qu’elle peut avoir sur certaines personnes.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
