L’intelligence artificielle a toujours été l’un des thèmes de prédilection de la science-fiction. Il y a donc quelque chose d’assez ironique dans l’histoire du magazine de SF américain Clarkesworld. Selon PC Gamer, la rédaction va cesser temporairement de publier les contributions de ses lecteurs… parce qu’elle croule désormais sous les textes écrits par des chatbots dopés au machine learning.
C’était pourtant une vieille tradition chez Clarkesworld. Depuis plusieurs années, le mensuel avait pour habitude de publier les meilleures histoires courtes rédigées par son lectorat sur le thème de la science-fiction. Le magazine avait même choisi de rémunérer le auteurs des nouvelles ainsi sélectionnées à hauteur de 12 centimes par mot, afin d’inciter les auteurs en herbe à donner le meilleur d’eux-mêmes.
Forcément, certains personnages mal intentionnés ont tenté d’abuser du système. Assez régulièrement, les équipes du magazine recevaient des textes plagiés envoyés par des “auteurs” peu scrupuleux dans l’espoir de toucher un peu d’argent. Jusqu’à présent, ces cas restaient relativement rares. Mais l’arrivée des chatbots dopés à l’IA, comme l’incontournable ChatGPT, ont complètement changé la donne.
L’ère de la triche au machine learning
Comme les étudiants de la fac de Lyon, qui se sont retrouvés embarqués dans une affaire de triche à l’IA au mois de janvier, certains petits malins ont rapidement flairé une opportunité. Une nouvelle génération d’usurpateurs utilise désormais ces outils pour générer des nouvelles en quantité industrielle. Ils s’en servent ensuite pour spammer la boîte de réception de Clarkesworld afin de maximiser leurs chances d’être sélectionnés.
Résultat : depuis quelque temps, la rédaction est bombardée de textes générés par l’IA. Et c’est un vrai casse-tête pour le magazine. Le problème n’est pas d’identifier ces textes générés par l’IA. D’après le rédacteur en chef Neil Clarke, il existe des « motifs particulièrement évidents » qui permettent de les repérer — même s’il n’a pas souhaité en dire plus à ce sujet. « Je n’ai aucune intention d’aider ces gens à ne pas se faire attraper », explique-t-il.
Un problème déjà quantitatif et bientôt qualitatif
Le vrai souci, c’est que le phénomène commence à prendre des proportions si importantes que les équipes en charge de la publication ne peuvent plus se permettre de faire le tri. « Fin 2022, il y a eu un pic de plagiat au moment où les chatbots IA ont commencé à gagner en popularité. Avec ce nouvel outil à disposition, davantage de tricheurs se sont essayés à cette pratique. Et ça a rapidement échappé à tout contrôle », explique Clarke dans un billet de blog.
Cette tendance est bien visible dans un graphique publié sur le compte twitter de Clarkesworld. On observe que le nombre de contributions plagiées ou produites par l’IA est passé de 25 en novembre à 50 en décembre, puis à plus de 100 en janvier avant d’atteindre les… 500 en février.
Updated version of the graph. pic.twitter.com/dDeWDhHZiM
— clarkesworld (@clarkesworld) February 21, 2023
Et surtout, plus ces chatbots deviendront mature, plus il deviendra difficile de faire la distinction entre les textes écrits par les humains et les spams rédigés par un ordinateur. « La technologie sous-jacente ne va faire que progresser, et la détection va représenter un défi de plus en plus important », concède Clarke. Un crève-cœur, sachant que les histoires publiées par les lecteurs font partie intégrante de la ligne éditoriale du magazine.
Il faut donc espérer que Clarkesworld trouvera une solution pour assurer la pérennité de son modèle économique. Mais au-delà de ce cas particulier, cette histoire montre aussi à quel point la montée en puissance de ces outils bouleverse déjà la création de contenu de façon très concrète. Une raison de plus de rester attentifs à l’évolution de cette technologie.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
