« Je ne l’ai jamais trompée, j’ai toujours été amoureux d’elle, j’ai pensé à elle tous les jours». Les déclarations enflammées du Japonais qui a épousé en octobre dernier un hologramme en ont certainement surpris plus d’un. D’autant que ce fonctionnaire de 35 ans n’a pas regardé à la dépense : il a déboursé 2 millions de yens (plus de 15 000 euros) pour célébrer son union avec l’hologramme de la chanteuse virtuelle Hatsune Miku, un avatar généré par le boîtier Gatebox.

Difficile de ne pas sourire à ce récit tant cette femme virtuelle est rudimentaire. L’hologramme de la Gatebox ne peut qu’énoncer quelques phrases élémentaires (bonne journée, bonsoir, etc.) et interagir avec l’électroménager. Peu de gens auraient envie de lui passer la bague au doigt. Nous sommes cependant nombreux à éprouver une empathie un peu irrationnelle pour les robots.

Poor Roomba

Certains vont compatir avec leur aspirateur robot lorsqu’ils le voient coincé sous un meuble. D’autres vont fondre devant les grands yeux du robot Pepper. Et ce sont loin d’être des cas isolés.

https://www.youtube.com/watch?v=oDeQCIkrLvc

En 2007, une enquête du Washington Post montrait à quel point les soldats américains pouvaient s’attacher aux robots militaires dont ils étaient dotés. Même si ces appareils ne ressemblaient pas du tout à des êtres vivants, les soldats leur donnaient des noms, des récompenses et les considéraient souvent comme des membres à part entière du groupe.

Peu importe que les robots ne soient pas capables de ressentir ou de penser. Peu importe que les humains le sachent pertinemment. Quelque chose d’irrationnel pousse une bonne partie d’entre nous à avoir de l’empathie pour ces machines. “Notre programmation biologique nous amène à penser, lorsqu’on voit des mouvements qui nous semblent autonomes, qu’il s’agit de quelque chose de vivant, doué d’intentions”, expliquait la chercheuse du MIT, Kate Darling, en septembre dernier, lors d’une conférence TED.

Lâchez ce dinosaure

Une hypothèse étayée par plusieurs études. Des chercheurs de l’université allemande de Duisbourg et Essen ont projeté à 40 personnes des vidéos montrant un humain traiter avec gentillesse ou avec violence un petit dinosaure robot.

On vous l’accorde la vidéo frôle la performance surréaliste (surtout lorsque le “bourreau” étouffe le jouet avec un sac en plastique). Mais l’expérience nous apprend quelque chose d’intéressant car les cobayes ont reconnu avoir été plus affectés par les passages montrant le robot maltraité. La deuxième expérimentation des chercheurs (conduite sur 14 personnes) suggère d’ailleurs que les cobayes pourraient ressentir le même type d’émotions qu’à la vue d’un humain martyrisé (le degré d’empathie serait toutefois moins élevé).

Alors bien sûr, nous avons toujours eu une petite tendance à l’anthropomorphisme et nous n’avons pas attendu les robots pour donner des surnoms à nos voitures et nous disputer avec nos réveil-matin. Mais avec des machines toujours plus autonomes et plus douées pour imiter nos comportements, cela risque de passer à un tout autre niveau.

Nous avons beau savoir qu’il s’agit de tas de ferrailles, nous aurons sans doute tendance à les traiter comme des êtres vivants. Et comme les robots grands public afficheront des design mignons et un comportement affectueux, nous aurons probablement envie de les adopter et d’en faire nos confidents. Le problème ? “Nous risquons très vite d’oublier qu’ils pourront communiquer l’ensemble de nos échanges à leurs fabricants”, analyse le psychiatre Serge Tisseron dans Le Figaro.

Connaître l’état émotionnel du client en temps réel

Les sociétés ne se privent déjà pas de décortiquer nos recherches internet et nos publications sur les réseaux sociaux. Connaître notre état émotionnel en temps réel grâce à un espion mignon installé chez nous et capable de dialoguer serait du pain bénit. Elles seraient en mesure de savoir ce que vous pensez (vraiment ) de leurs produits, de vos amis, de questions politiques et de toute une foule d’autre choses. Quoi de plus facile ensuite que de tailler des campagnes commerciales ou des politiques redoutablement efficaces car complètement sur mesure. D’autant que si elles se servent de votre ami robotisé si gentil pour faire passer leur message, il aura bien plus d’impact.

“Savoir ce qui touche chacun, ce qui le met en mouvement, est une forme de pouvoir très spécifique“, explique à LCI Camille Alloing, maître de conférence à l’Université de Poitiers et co-auteur du livre “Le Web affectif”. Cela permet de lui faire faire ce que je veux, de l’influer sur un homme politique, une marque, d’adresser un message commercial.” Cela fait d’ailleurs longtemps que nos émotions intéressent les entreprises de la tech.

En 2016, Facebook a lancé ses Facebook Reactions pour, officiellement, offrir une meilleure expérience à ses utilisateurs. Mais, comme le souligne Camille Alloing, “la cellule marketing de Facebook a aussi vite envoyé des messages à ses clients en leur disant qu’ils étaient désormais capables d’enregistrer les réactions émotionnelles des clients”. L’affection irrationnelle portée à ces machines pourrait poser d’autres problème : nous pousser à prendre des risques inconsidérés pour les protéger par exemple ou nous isoler en nous détournant de nos semblables.

“Aucun robot ne m’aimera jamais”

Vu les progrès de l’IA et de la robotique, il n’est pas dit en effet que des amours hybrides comme le Japonais marié à un hologamme restent si rares. Amour à sens unique cependant. Comme le rappelle Serge Tisseron aux Echos, “aucun robot ne m’aimera jamais, mais le jour où je serai tenté de penser que mon robot m’aime, alors je serai pris dans l’illusion qu’une machine peut avoir des sentiments humains, et je serai victime d’une tendance commerciale qui va nous inciter à acheter des émo-robots. »

En général, les chercheurs en robotique ont cependant -heureusement- d’autres visées que des objectifs marketing. Kate Darling cite notamment l’utilisation des Paro, ces mignons bébés otaries robotiques, auprès de patients atteints de démence. Des appareils qui ne doivent pas servir à remplacer les soins et l’attention du personnel humain. “Mais en l’occurrence, ce n’est pas ce que ces robots remplacent. Ils sont en fait un substitut aux thérapies animales dans des contextes où il n’est pas possible d’utiliser de vrais animaux” précise la chercheuse du MIT. Laurence Devillers estimait de son côté en 2016 que certains robots pourraient “aider les enfants autistes qui ont du mal à exprimer leurs émotions ou à comprendre les émotions des autres”. Notre tendance à établir des connexions émotionnelles avec les robots n’est donc pas systématiquement problématique. Mais il vaudra sans doute mieux étudier à la loupe leurs CGU avant de les convier dans notre foyer.

🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.