En début de semaine, l’image d’une explosion au Pentagone visiblement générée par l’IA a fait le tour d’internet. La fausse nouvelle a été diffusée par un compte Twitter vérifié se faisant passer pour Bloomberg. Ce compte, qui pouvait facilement être confondu avec un compte affilié à l’agence de presse en raison de sa coche bleue, a depuis été suspendu. D’autres comptes Twitter, comme DeItaone, OSINTdefender et Whale Chart, qui comptent des centaines de milliers d’abonnés, ont également relayé l’image. Une chaîne de télévision indienne a même rapporté l’explosion fictive du Pentagone. L’origine de cette image et de cette fausse information n’est pas encore claire.
Qui croire ?
Ce n’est pas la première fois qu’une image fausse trompe les internautes et le public sur internet. Toutefois, lorsqu’il s’agit d’une prétendue explosion dans un bâtiment gouvernemental américain, les enjeux sont nettement plus élevés. Ce d’autant que l’ombre des attentats du 11 septembre 2001 plane toujours sur les États-Unis. L’incident soulève la question de l’utilisation potentielle de l’intelligence artificielle générative pour manipuler l’opinion publique.
Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p
— Andy Campbell (@AndyBCampbell) May 22, 2023
La désinformation, c’est bien sûr un problème aussi ancien que l’internet lui-même. Cependant, l’apparition simultanée de l’IA générative et le changement dans le système de vérification de Twitter créent un terreau particulièrement propice à sa prolifération. La décision d’Elon Musk, propriétaire de Twitter, de retirer le statut vérifié existant et de permettre à quiconque de payer pour obtenir ce symbole a été chaotique dès le départ.
Même si les coches bleues n’indiquent plus la légitimité des comptes, il est difficile de rompre une habitude visuelle cultivée pendant près de 15 ans : on est probablement prédisposé à penser qu’un compte appelé Bloomberg Feed possédant une coche bleue et qui publie une information sur une attaque au Pentagone est réel et légitime. Alors qu’il devient de plus en plus difficile de repérer les fausses images, il ne fait aucun doute que de fausses informations comme celle-ci se multiplieront à l’avenir.
L’option de vérification par coche bleue, qui indique que l’identité d’un utilisateur a été vérifiée par Twitter, a été introduite en 2009. Cependant, le processus de vérification a été critiqué pour son manque de transparence et a été suspendu plusieurs fois. Avec l’introduction de Twitter Blue avec Elon Musk, le processus de vérification a été modifié. Il permet à quiconque de payer pour obtenir une coche bleue, suscitant des inquiétudes concernant l’augmentation potentielle de la désinformation.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
Vive notre futur monde (proche) où plus aucunes sources d’informations ne sera fiable…
Faux : “problème aussi ancien que l’internet lui-même”
Au début internet était utilisé par les scientifiques et les informaticiens. Pas de commerciaux, pas de sites de vente, pas d’arnaqueurs, ni de menteurs, pas besoin de se méfier de tout.
Mais peut-être Olivier, n’avez-vous pas connu internet avant le world wide web généralisé par les navigateurs pour windows permettant d’afficher les pages html.
C’est quand tout le monde y a eu accès que c’est devenu le défouloir des stressés, des extrémistes, une réserve de virus, une mine d’or pour les commerciaux et les voyous, un terrain de chasse pour les prédateurs, etc. Un tas de boue quoi, ou il n’y a plus de confiance possible.
Au début internet n’a pas été pensé pour être sécurisé et on le paye maintenant, mais tant qu’on reste basé sur ces vieux protocoles rien ne sera possible que des rajoutures plus ou moins heureuses, plus ou moins efficaces et contournables.
+1 Elminster44
Sauf qu’à mon avis nous y sommes déjà ;-(
Perso depuis plusieurs années tout email qui n’est pas une réponse à une action de ma part, comme prétendant provenir de l’administration, edf, eau, etc. n’a plus ma confiance et est directement renvoyé à http://www.signal-spam.fr.
Faudrait pas confondre sécurisation des protocoles qui existent depuis bien longtemps, avec la degré de confiance d’un site qui peut utiliser un protocole sécurisé tout en fournissant de fausses informations…