Des photos privées, et parfois très privées (comme cette utilisatrice assise sur les toilettes) ont été publiées dans des discussions de groupes privées sur Facebook et Discord, selon le MIT Technology Review. Ces clichés ont été pris par des prototypes d’aspirateurs Roomba, en l’occurrence le J7. Le constructeur iRobot, qui est actuellement en cours d’acquisition par Amazon, a authentifié les images qui remontent à 2020.
Des sous-traitants indispensables pour l’intelligence artificielle
Que s’est-il passé ? Les aspirateurs en question étaient des modèles de développement pour lesquels les utilisateurs-cobayes ont accepté qu’ils les « surveillent ». Les images prises par ces robots étaient envoyées sur des serveurs et partagées avec des employés de Scale AI, une entreprise qui emploie des sous-traitants pour étiqueter les photos en question. Une pratique très courante (y compris chez Apple pour Siri ou Amazon avec Alexa) qui permet d’améliorer les technologies de reconnaissance d’images.
Ce sont donc des humains qui ont examiné les photos en question. Et comme personne n’est parfait, certaines images se sont donc retrouvées dans des conversations. iRobot assure avoir pris « toutes les précautions nécessaires pour s’assurer que les données personnelles sont traitées en toute sécurité et conformément à la loi applicable », mais a refusé au MIT Technology Review de consulter les accords de consentement signés avec les utilisateurs.
iRobot explique avoir mis fin au contrat avec Scale AI, et surtout le constructeur indique que des mesures ont été prises pour éviter ce genre de pratique. Elle souligne en tout cas que les intelligences artificielles ont toujours besoin des humains pour faire leur travail, qu’il s’agisse d’aspirateurs robots comme ici ou d’autres produits et services. Pour iRobot, c’est particulièrement sensible car les intérieurs ne sont pas normalisés, ils sont tous différents les uns des autres d’où le recours à des petites mains.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
