L’intelligence artificielle est partout. Depuis l’émergence de ChatGPT et de l’IA générative, les machines s’improvisent artistes, auteur, médecins et assistants polyvalents. Désormais, elles jouent aussi les love coachs. Le phénomène n’est pas réellement nouveau. L’année dernière, on s’inquiétait déjà de cet outil d’IA capable de dater virtuellement à la place de son propriétaire sans prévenir ses interlocuteurs et interlocutrices. Quelques semaines plus tard, le géant du dating en ligne Bumble offrait aux utilisateurs de son application Bumble for friends la possibilité d’envoyer un premier message grâce à l’intelligence artificielle, histoire de briser la glace avant un premier contact.
L’IA pour démasquer les escroqueries…
Cette année, Bumble récidive. L’application a annoncé hier le lancement d’une nouvelle fonctionnalité destinée à protéger ses utilisateurs et ses utilisatrices. Baptisée Deception Detector, cette dernière serait capable de repérer et de censurer les contenus malveillants avant même leur réception. Le tout grâce à l’IA, évidemment.
Lors de ses tests préliminaires, Bumble détaille des résultats prometteurs : l’outil, couplé à une surcouche de modération humaine, aurait réussi à bloquer 95 % des comptes identifiés comme des comptes de spam ou d’escroquerie, avec une réduction globale de 45% des échanges liés à des faux profils, des escroqueries, ou du spam. Une bonne nouvelle donc, d’autant plus que le sujet est sensible : selon une récente enquête de la FTC (Federal Trade Commission), les escroqueries amoureuses sur les applications de rencontre et les réseaux sociaux auraient coûté aux victimes américaines 1,3 milliard de dollars en 2022.
Et pour modérer les comportements inappropriés
Sur Tinder aussi, l’IA joue les modérateurs. En cas de non-respect des règles de bienséance élémentaires, une nouvelle mise à jour se chargera bientôt d’avertir les utilisateurs de leur comportement inapproprié. Cela vaudra notamment pour les messages problématiques ou injurieux. La tranche d’âge 18-25 ans sera la première visée, et devra désormais veiller à respecter les trois mantras prônés fièrement par l’entreprise “authenticité, respect et inclusivité“. Concrètement, si un internaute enfreint les directives de la communauté, l’équipe de Tinder se chargera de lui envoyer un message d’avertissement, lui donnant ensuite la possibilité de corriger ses actions.
À noter que le message d’avertissement en question ne pourra pas être supprimé de la boîte de réception, mais qu’il sera susceptible de conduire à une exclusion temporaire ou définitive en cas de récidive. Dans un billet de blog, le groupe explique : “Nos directives communautaires constituent la base d’un écosystème respectueux. Ces avertissements sont conçus pour assurer la transparence et alerter les utilisateurs lorsqu’ils n’adoptent pas un comportement acceptable et respectueux“.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
