Depuis son lancement, le nouveau générateur d’images de ChatGPT a provoqué un engouement mondial. Après s’être amusés à transformer le monde en film d’animation des studios Ghibli, les internautes ont rapidement pris conscience de l’étendue des possibilités offertes par le générateur d’images. Contrairement à ses concurrents, le chatbot est en effet capable de générer du texte avec un réalisme saisissant. Il n’en fallait pas plus pour que l’outil soit utilisé à mauvais escient.
Des faux reçus plus vrais que nature
Le processus est d’une simplicité enfantine. Il suffit en effet de donner un reçu bien réel à ChatGPT, puis de lui demander de modifier les informations requises, comme la date, le montant de la facture, ou encore le nom du restaurant. Plus simple encore, il est aussi possible de partir d’une trame vierge, en demandant à l’algorithme d’improviser à partir de quelques instructions données.
Nos premiers essais sont particulièrement probants. Si plusieurs internautes fustigent des erreurs de calcul, le reçu que nous avons généré est correct dès le premier essai, alors même que nous n’avons fourni aucune instruction de montant. Reste qu’en cas d’imprécisions, il ne sera pas difficile de corriger rapidement les bourdes de l’IA, en affinant son prompt de commandes.
Il suffit ensuite de quelques essais pour obtenir un résultat parfait : en demandant à ChatGPT de froisser légèrement le papier, de décentrer le cadrage et d’ajouter quelques traces de salissures, on obtient un reçu totalement fictif, généré de toutes pièces. La promesse pour les fraudeurs de multiplier les notes de frais à la barbe de leur employeur. D’autant plus que selon le Français Raphaël Chenol sur LinkedIn, la photo du reçu est assez réaliste pour être acceptée par une application de saisie de note de frais.
Il va falloir agir, et vite
Interrogée par TechCrunch, une porte-parole d’OpenAI confirme que toutes les images générées par l’entreprise contiennent des métadonnées, indiquant clairement leur filiation à l’IA. Reste que les moyens de contournement sont nombreux : il suffit de faire une capture d’écran pour supprimer les métadonnées. De plus, peu d’entreprises vérifient effectivement ce type de données.
Si OpenAI a assuré qu’elle prenait des mesures systématiques lorsque les utilisateurs enfreignaient ses règles, l’entreprise a aussi indiqué que la génération de faux reçu n’entrait pas dans le cadre d’une utilisation frauduleuse : “l’objectif d’OpenAI est de donner aux utilisateurs autant de liberté créative que possible“. Or, ces faux reçus sont susceptibles d’être utilisés dans des situations non frauduleuses comme “l’enseignement à l’éducation financière” par exemple. C’est beau de rêver…
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
