La Chine fait partie des pays qui livrent une guerre sans merci à la pornographie en accès libre. Sur l’Internet chinois, la moindre image un tant soit peu explicite est activement censurée par une division spéciale du gouvernement. Et ces derniers pourraient un jour bénéficier d’un renfort pour le moins étonnant; des chercheurs chinois ont annoncé avoir développé une technologie capable de “lire dans les pensées” d’un sujet pour déterminer s’il est exposé à des images pornographiques.
Le concept pourrait sembler tout droit sorti d’un film de science-fiction tristement générique, mais il est en fait tout ce qu’il y a de plus réel. Il repose en majorité sur l’intelligence artificielle, une technologie qui fait des merveilles dès qu’il s’agit de traitement de l’image.
En partant des technologies existantes qui sont déjà très avancées, on peut donc tout à fait imaginer développer un système capable d’identifier automatiquement toutes les images à caractère pornographique.
Le problème, c’est que les critères humains de la décence sont parfois assez flous et varient largement en fonction des cultures. De plus, il est de notoriété publique que ces systèmes informatiques ont aussi leurs limites; lorsque ces algorithmes sont confrontés à des situations qu’ils ne connaissent pas, ils peuvent fournir des réponses tout à fait fantaisistes.
Un casque détecteur de pornographie au service des censeurs
Pour ces raisons, il est encore compliqué de laisser les clés du camion à l’ordinateur, surtout lorsque la responsabilité d’une institution gouvernementale est engagée. En partant de ce constat, les chercheurs chinois ont donc développé un système permettant de mettre la puissance de l’IA au service d’un humain en chair et en os.
Il prend la forme d’une sorte de casque flexible et bardé d’électrodes. Ces dernières permettent de capter les ondes cérébrales du porteur, en l’occurrence un censeur. Ce sont des éléments intéressants, car il s’agit de représentations visuelles de phénomènes neurologiques qui se déroulent de façon complètement inconsciente.
Les chercheurs ont donc commencé par entraîner leur intelligence artificielle en faisant porter ce casque à plusieurs sujets. Ils ont été soumis à un flux d’images variées, dont certaines à caractère pornographique qui génèrent des motifs particuliers au niveau des ondes cérébrales.
À partir de ces relevés, ils ont pu entraîner l’IA à repérer spécifiquement ces motifs; elle est donc capable de déterminer en temps réel si l’utilisateur regarde des images sexuellement explicites. Et ce même s’il ne pose les yeux dessus qu’une fraction de seconde. Le reste des relevés a été utilisé pour construire un second modèle, qui permet cette fois de filtrer les erreurs humaines, notamment celles liées à la fatigue et aux émotions.
Un concept encore limité mais au potentiel immense
Sur le papier, ce système permet donc de tirer parti des qualités respectives de l’humain et de la machine pour aboutir à un système extrêmement rapide et puissant. Au bout du processus d’entraînement, le système s’est montré plutôt performant, avec plus de 80% de précision lors de l’identification. Mais les chercheurs expliquent aussi que leurs travaux comportent plusieurs limites importantes.
Pour commencer, ils affirment avoir eu beaucoup de mal à trouver du matériel source – sous-entendu, des images pornographiques non censurées. Rien d’étonnant puisqu’ils ont dû se limiter à l’Internet chinois qui est extrêmement contrôlé à ce niveau. Mais il s’agit néanmoins d’un gros problème dans ce genre de travaux.
En effet, la qualité des résultats fournis par un système basé par l’IA dépend directement de la taille et de la qualité du jeu de données. Si elles sont insuffisantes, on se retrouve dans un cas de figure baptisé “garbage in, garbage out” (“des déchets à l’entrée, des déchets à la sortie”) où les résultats ne valent plus grand-chose.
De plus, les chercheurs n’ont pu tester leur système que sur des sujets masculins. C’est une limite déjà importante en temps normal qui est d’autant plus contraignante dans ce type d’étude en lien avec la pornographie, surtout qu’une part importante des censeurs gouvernementaux sont des femmes d’après le South China Morning Post.
Des problématiques importantes à l’ère de l’IA et du neurobusiness
En parallèles des questions de société sur l’accès à la pornographie que nous n’aborderons pas ici, il reste aussi tout un wagon de questions éthiques. Car d’après un chercheur interviewé par Interesting Engineering sous couvert d’anonymat, il n’existe pour l’instant aucun outil ou loi qui permette de réguler la façon dont ces ondes cérébrales seront utilisées.
Et c’est là encore un gros souci. Car pour l’instant, personne ne connaît encore l’étendue du potentiel de cette technologie émergente dont les usages dépasseront bientôt largement la censure. On peut imaginer un exemple simpliste pour illustrer le problème. Connaissant les rapports compliqués qu’entretiennent le gouvernement chinois et la communauté LGBT, on peut par exemple imaginer qu’un censeur pourrait être mis dans une situation très inconfortable si ses ondes cérébrales trahissent une réaction particulière à certains types de contenus.
Il ne s’agit que d’un exemple isolé et peut-être tiré par les cheveux, mais qui illustre l’un des principaux problèmes associés aux systèmes qui permettent de “lire dans les pensées”. Autant dire que si les bases technologiques sont intéressantes, il faudra rester particulièrement vigilant à une époque où la neuro-ingénierie et l’intelligence artificielle montent en puissance à une vitesse affolante.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
