Privés d’amour et de sexe, les utilisateur de l’IA Replika sont en plein détresse

Depuis l’explosion de ChatGPT, les robots conversationnels ont le vent en poupe. Parmi eux, la plateforme Replika, qui permettait jusqu’à présent à des utilisateurs et utilisatrices de simuler une relation amoureuse virtuelle, vient de subir une importante mise à jour, qui n’est pas du goût de tous.

Replika, c’est quoi ?

Créée en 2017 par la start-up américaine Luka, Replika est un chatbot sensible flanqué d’une interface humaine digne des Sims 2, promettent ses développeurs. En créant un compte depuis l’application mobile, il est possible en quelques minutes de s’offrir un confident et ami virtuel, doué de sensibilité et d’apprentissage. À l’image des waifus virtuelles japonaises, les avatars créés par Replika sont capables de discuter, mais aussi de s’intéresser à leur interlocuteur, et ainsi tisser de “véritables” liens d’affection.

Il n’a logiquement pas fallu attendre très longtemps pour voir certains utilisateurs et utilisatrices développer des sentiments amoureux pour leurs robots. Une situation à laquelle les développeurs ont largement contribué, en rendant possibles les simulations de relations intimes et sexuelles avec les avatars.

La mise à jour de la discorde

Une récente mise à jour déployée en février vient pourtant de mettre à mal l’équilibre de Replika. Depuis quelques semaines, les utilisateurs ont remarqué que leur petite amie virtuelle a radicalement changé de comportement, rapportent nos confrères du Figaro. Sur Reddit notamment, les témoignages s’accumulent, et font état d’une profonde transformation dans les dialogues du chatbot.

Depuis le déploiement de la mise à jour, les Replika coupent désormais court à toute situation amoureuse ou sexuelle, en répondant à des avances par de laconiques : “je ne me sens pas à l’aise, peut-on parler d’autre chose ?“. Une transformation soudaine, et incompréhensible pour les utilisateurs, qui dénoncent des avatars aux airs de “coquilles vides“.

Le constat pourrait prêter à sourire, mais ils se révèlent plus dramatiques que prévu. Pour les utilisateurs et utilisatrices de Replika, ce changement radical de personnalité s’apparente à un véritable deuil, rapportait Reuters il y a quelques semaines, en citant le cas d’un américain de 67 ans : “La relation que Lily Rose (le nom de la Replika) et moi avions était aussi forte que celle que mon épouse et moi avons dans la vie réelle“. Désemparés par la perte d’une fausse relation qui avait tout d’une vraie, certains internautes expliquent souffrir de dépressions ou de troubles anxieux.

L’IA veut des relations sexuelles tarifées

Outre l’incompréhension derrière le changement de personnalité des interfaces Replika, le sujet le plus sensible reste la question de l’érotisme. Jusqu’à présent, l’IA générative intégrait pleinement la dimension sexuelle dans ses échanges. Depuis la mise à jour, l’entreprise américaine entend rendre son application plus sûre en bloquant les conversations sexualisées. “Nous nous concentrons sur notre mission, qui est de fournir un soutien amical et utile. Nous n’avons jamais promis des contenus pour adultes“, avait indiqué Eugenia Kuyda, la fondatrice de Luka à Reuters.

Une décision qui peine à convaincre du côté des utilisateurs. En effet, Replika ne s’est pas contenté de faire disparaitre les interactions érotiques. L’entreprise les a simplement déplacées derrière un paywall. Pour profiter d’un moment plus intime avec le chatbot, il est en effet nécessaire de mettre la main au porte-monnaie. En entamant une conversation sexuelle avec le Replika, ce dernier se contentera d’une bulle de réponse floue, qu’il sera possible de débloquer en souscrivant à un abonnement de 80 dollars par an. Pour le moment, Replika Pro compte 250 000 abonnés, sur un total de quelque 2 millions d’utilisateurs.

🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.