L’utilisation des intelligences artificielles à des fins de reconnaissance faciale est un phénomène de plus en plus courant aujourd’hui, mais qui peut poser de sérieux problèmes de violation de vie privée. Il y a quelques jours, un étudiant réclamait près d’un milliard de dollars à Apple, accusant la marque d’utiliser un système de reconnaissance faciale qui selon lui, aurait conduit à l’arrêter sans motif.
C’est pour pallier ce type de problémes qu’un groupe d’ingénieurs de l’Université de Louvain en Belgique, a réussi à imaginer un patch coloré, dont les motifs empêchent les IA de définir la personne qui le porte comme étant humaine. L’expérience, partagée en vidéo sur YouTube, est assez inattendue, mais elle est plutôt parlante. En portant le motif à leur cou, ou simplement en le tenant en main, chaque testeur devient temporairement invisible aux yeux de l’intelligence artificielle.
Tromper l’IA
“Nous sommes convaincus qu’en combinant cette technique à des innovations en matière de textile, il est possible de concevoir un imprimé de t-shirt capable de rendre une personne pratiquement invisible pour les caméras de surveillance” – Extrait de la recherche
Fausser les intelligences artificielles n’est pas un exercice nouveau. Des motifs de maquillage permettent déjà de tromper la vigilance des machines. En août dernier, un scientifique avait réussi à créer des lunettes, dont le motif permettait de faire passer n’importe qui pour Milla Jovovich aux yeux d’une IA. Si un motif permettant de tromper efficacement les algorithmes de reconnaissance faciale était mis au point, ce dernier pourrait, en étant imprimé sur des vêtements par exemple, rendre son utilisateur totalement invisible aux yeux des algorithmes de surveillance.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
Ils ont testé plusieurs IA ou une seule? Aussi une simple camera thermique permettrait de palier le problème.
En fait, c’est même pas une vrai solution.
L’IA fait face a une inconnue, à un cas qu’elle ne connait pas. Mais si plusieurs personnes utilisent ce même motif ou un motif similaire, l’IA aura tôt fait de l’enregistrer, et ça ne lui posera plus problème.
Quel rapport avec la reconnaissance faciale ?
La caméra thermique pourrait être bernée avec la même manière adaptée au spectre de cette caméra
Le problème est dans le fait qu’on puisse générer sûrement plein d’autres motifs du même acabit
Peu importe : a partir du moment ou ton motif est statique, l’IA pourra l’apprendre et se l’approprier.
Le seul usage potentiel serait un écran avec un motif généré aléatoirement qui change tout le temps. Le problème, c’est que le vrai aléatoire n’existe pas en informatique et qu’une IA pourrait aussi s’adapter à ça.
Ha et surtout, là ça marche parce que l’IA essaye de détecter une personne, et non un visage. Contrairement au titre de l’article, ce n’est pas une reconnaissance de visage qui est trompée, mais une détection de personne.
A moins de te foutre un patch coloré sur la tronche, une IA de reconnaissance faciale n’aura aucun soucis à te reconnaitre.