L’ONG Reset a mis au jour plusieurs réseaux de pages Facebook composées de comptes bidons. Ces réseaux, générés vraisemblablement par des logiciels automatisés, ont d’abord été créés dans un but commercial mais ils sont parfois activés pour des activités malveillantes : publicités frauduleuses ou campagnes de publicité pro-Kremlin. Ces réseaux enfreignent de la sorte plusieurs conditions d’utilisation de la plateforme, notamment les règles relatives aux attaques coordonnées, à la publicité et aux directives communautaires.
Une lutte inefficace contre les faux comptes
Les chercheurs ont porté une attention toute particulière à un réseau de 242.000 pages lancé fin 2021, et qui a été actif dans la diffusion de propagande russe et de publicités trompeuses tout au long des deux dernières années. L’envergure de ce réseau a pris une importance exponentielle depuis 2022, dépensant des dizaines de milliers d’euros dans des publicités qui enfreignent les termes d’utilisation de Meta. Alors que les publicités de propagande russe ciblaient principalement les utilisateurs français et allemands, les publicités commerciales promouvaient des produits potentiellement dangereux dans plus de 32 pays.
Meta est au courant de l’existence de ce réseau depuis au moins septembre 2022. Cependant, la société n’a pas réussi à mettre fin à ces activités, ce qui pose ainsi des risques sérieux pour les consommateurs et qui mettent en péril l’intégrité démocratique dans l’Union européenne.
Reset a également identifié un second écosystème composé de trois réseaux interconnectés engagés dans des activités similaires, dépassant 340.000 pages. L’échec apparent de Meta à détecter une forme élémentaire d’automatisation interroge franchement sur la capacité de l’entreprise à gérer des automatisations plus sophistiquées, comme les contenus produits par l’IA générative.
Le groupe de Mark Zuckerberg a-t-il l’intention d’empêcher l’utilisation de ces réseaux à des fins de désinformation ? À l’approche des élections européennes de l’année prochaine, la question mérite d’être posée. De plus, le manque de mesures prises par Meta pour limiter les risques posés par ces activités à grande échelle pourrait remettre en cause sa conformité avec le nouveau cadre de l’UE, le règlement sur les services numériques (le fameux DSA).
À la lumière de ces révélations, l’approche de Meta semble en tout cas sélective alors qu’il faudrait plutôt systématiser les mesures de suppression de ces pages. Les algorithmes de détection manquent en tout cas cruellement d’efficacité. Les manquements de Meta pour réguler ces vastes réseaux pourraient avoir des conséquences non seulement pour la sécurité des utilisateurs, mais aussi pour le processus démocratique au sein de l’UE.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
MDR!
tout est hors de control!
bravo mark!