Depuis sa fondation en 2017, l’entreprise Clearview AI a suscité de vives controverses en moissonnant des photos sur le web, et notamment les réseaux sociaux, afin d’alimenter un gigantesque système de reconnaissance faciale. Dans une interview à Wired, son PDG Hoan Ton-That a affirmé que la firme aurait passé plus de 10 milliards d’images au crible, et développerait en ce moment de nouveaux outils basés sur l’IA pour les exploiter.
En l’occurrence, il s’agirait d’outils de “défloutage” à la Blade Runner et de “suppression de masque”. Deux concepts qui présentent un point commun : il s’agit d’extrapolations basées sur des données incomplètes. Concrètement, il s’agit donc de jouer (partiellement) aux devinettes; tout sauf idéal pour un système qui revendique haut et fort sa volonté d’assister les forces de l’ordre…
Un cocktail potentiellement détonnant en termes de vie privée. Il est de notoriété publique que ces algorithmes peuvent non seulement être imprécis, mais aussi sujets à de nombreux biais. Une situation qui inquiète Aleksander Madry, professeur au MIT interviewé par Wired. “Je m’attends à ce que la précision soit assez mauvaise”, explique-t-il. “Et même au-delà de la précision, sans contrôle sur les jeux de données et le processus d’entraînement, je m’attends à ce qu’une pléthore de biais inattendus montre le bout de son nez”.
“Achever la confidentialité telle qu’on la connaît“
Avec ces nouveaux outils basés, ClearviewIA semble donc plus intrusif que jamais, mais aussi moins fiable, paradoxalement. Une situation qui sent le syndrome Skynet à plein nez, et vient encore renforcer une réputation déjà malsaine au possible. Pour rappel, en janvier dernier, le New York Times a réalisé un portrait aussi glaçant qu’éloquent de la firme. Son titre : “L’entreprise qui pourrait achever la confidentialité telle qu’on la connaît”, rien que ça. Un choix de mots osé qui en dit long sur le malaise éthique qu’elle génère, et qui lui a déjà valu plusieurs procès. Comble de l’ironie : selon Wired, même Facebook aurait demandé à ce que Clearview cesse de piller son site…
En revanche, ce service a été une vraie aubaine pour certaines institutions qui ont fait appel à leurs services depuis. Parmi elles, on compte notamment des agences fédérales américaines et des forces de police, leur cœur de cible original… mais aussi des compagnies privées comme Walmart, la NBA ou des opérateurs télécoms majeurs. Reste à voir comment ces acteurs en feront usage. Il conviendra aussi de garder un œil sur les procès en cours. Mais surtout, il sera intéressant d’observer comment les différentes législations réagiront à la montée en puissance de Clearview AI. Il semble en effet de plus en plus urgent de mettre en place un cadre légal clair, uniforme et global pour anticiper certains des scénarios terrifiants qui semblent se préciser à chaque jour qui passe.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
Qu’a-t-on a cacher ?
Rien ? donc rien à se reprocher, donc rien à risquer comme sanction.
Ceux de fait qui ont des choses à cacher, à se reprocher, qui sont recherchés, qui projettent quelques choses de malhonnête peuvent avoir peur.
Tant que cette technologie n’est pas associée à une volonté politique de contrôle de la population comme en Chine avec les bons et les mauvais points ce système n’est pas dangereux ni intrusif, mais une fois la ligne rouge franchie comme en Chine alors oui ce système devient abusif, mais ce n’est la la technologie qui est dangereuse c’est ce que l’on en fait comme à chaque fois
Ça dépend sur le fond ok . Maintenant au hasard tu dis la Chine c est un pays ( adjectif au choix) sur ton Facebook mal grès ton pseudo . Tu arrives la bas et vlan la reconnaissance te détecte car il y a 20 ans tu as dis un truc qui ne plait au PC et tu fais demi tour car tu es ennemi du peuple. J ai pris la Chine car c est déjà l empire de la reco faciale
@Philippe
Tu n’as rien à cacher, et c’est Ok. Mais le problème n’est pas là…
“Quand tu dis que tu « n’as rien à cacher », qu’on peut collecter autant qu’on veut de données et d’infos sur toi, que ça ne te dérange pas. C’est ton choix. Tu as le droit
Mais pour avoir le choix, il faut déjà qu’on t’ait posé une question.”
https://serveur410.com/tu-nas-rien-a-cacher-et-cest-ok-mais-il-y-a-un-autre-probleme/
@Loremipsum
Avoir le choix ne suffit pas je pense, il y a le code de la route et ce n’est pas un choix, il y a les lois en général et ce n’est pas un choix, il y a la vaccination obligatoire et ce n’est pas un choix, toutes ces choses sont des accords communs mutualisés. Je veux dire pa`r la que par exemple le code de la route est un ensemble de règle de conduite que tout conducteur doit suivre pour pouvoir rouler sans prendre de pv et qui sont acceptées de toutes et tous qui sont devenus une loi.
C’est la même chose pour à peu près tout, que ce soit le code pénale, administratif, le règlement de société, le règlement de l’écolde,….. à chaque fois, tu es prévenu (nul ne doit ignorer la loi) et la loi s’applique, c’est la base de la démocratie.
Il ne faut pas oublier que toute loi est créée, débattue et votée par les représentants du peuple donc par le peuple indirectement.
Ce système de surveillance, pas bien différent de celui qui existe déjà à la grande différence que l’IA va faire le travail du policier en 10 fois mieux et 1000 fois plus vite, ne va rien révolutionner, juste faciliter le travail des forces de l’ordre.
Et encore une fois, je n’ai rien à cacher donc pourquoi je m’en ferais, tout comme 99% des gens.
@Philippe
“Il ne faut pas oublier que toute loi est créée, débattue et votée par les représentants du peuple donc par le peuple indirectement.” LOL
577 députés en France, tu crois qu’ils votent tous ? Sont-ils déjà tous présents à l’assemblée quand des lois sont portées au vote dans la journée et je ne parle pas de la nuit…. Nous représentent-ils vraiment ? La question est ouverte lorsque l’on voit certaines décisions prises.
Concernant les choix, tu as tjs le choix le tout est une question de responsabilité de soi même et envers les autres.
Prenons ton exemple, le code de la route : tu as passé ton code, ton permis, tu as acheté un véhicule. Tu as donc fait toutes les démarches de ton propre choix pour ensuite respecter le code de la route.
“Ce système de surveillance, pas bien différent de celui qui existe déjà” bah si encore plus intrusif
“à la grande différence que l’IA va faire le travail du policier en 10 fois mieux et 1000 fois plus vite, ne va rien révolutionner, juste faciliter le travail des forces de l’ordre.” justement attend toi à cette révolution Big Brother, Big Mother, Small Brother
“la police a systématiquement échoué à démontrer que ce cas théorique pouvait se matérialiser en pratique : si elle peut parfois être « utile », la reconnaissance faciale n’est jamais « indispensable » au travail de la police.”
https://www.laquadrature.net/2021/09/22/reglement-ia-la-commission-europeenne-tend-le-piege-de-la-reconnaissance-faciale/
Je te donne un peu de lecture
https://standblog.org/blog/pages/Surveillance
https://www.laquadrature.net/
PS : si tu n’as rien à cacher n’hésite pas à nous donner :
– ton @mail et son pwd
– ton numéro de carte bleu, date de validité et crypto associé
– ton QRcode de ton pass sanitaire
– Etc…