Quand la créature échappe à son créateur, c’est un peu l’histoire qu’aurait pu avoir GPT-2, ce générateur de faux articles de presse développé par le groupe de recherche OpenAI, fondé par Elon Musk. Défini comme “le nec plus ultra pour modéliser certains niveaux de langage”, GPT-2 est si performant qu’il restera dans l’ombre. En effet, ses créateurs ont peur qu’il ne serve à des fins malveillantes.
GPT-2 est capable de générer des fake news crédibles
Les très bons résultats du programme GPT-2 ont amené les chercheurs à le garder secret. En effet, selon l’équipe de recherche, ce générateur de texte pourrait bien être utilisé pour générer de faux articles de presse et ainsi répandre des fake news sur les réseaux sociaux.
En effet, plusieurs tests ont pu effrayer l’équipe de OpenAI. En prenant un article du Guardian sur le Brexit, l’IA développée par OpenAI est parvenue à inventer des citations du député Jeremy Corbyn, l’opposant à Theresa May. Le problème, c’est que ces citations étaient tellement crédibles qu’on peut bien imaginer les dérives qu’elle pourrait générer, comme la création d’infox bien ficelées, et donc, de fait, indétectables.
Et ce n’est pas tout, car l’outil est également capable de générer automatiquement des avis négatifs ou positifs, mais aussi des spams, des textes complotistes… Suite à ses expériences (trop) concluantes, OpenAI a tout simplement décidé de confiner son programme GPT-2 et de ne pas publier ses recherches, afin qu’il ne se retrouve pas dans de mauvaises mains.
“Nous devons faire des expériences complémentaires pour découvrir ce que des utilisateurs pourraient en faire”, a conclu Jack Clark, directeur des politiques de OpenAI.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
Quel enfumage. Aucune IA ne génère librement de texte qui fassent sens.
Avant d’écrire il faut penser, et pour penser il faut parler. Aucune IA ne produit de discours indépendamment de ce lui est soufflé.Vous imaginez l’IA qui se dit: “Tiens, je vais parler de bonsaï, j’adore ça!” Et bien toutes les parties de cette phrase sont programmées en suivant des structures précises qui simulent le langage. Mais personne ne parle, il n’y a rien qui pense. “Tu vas aimé la botanique, et tu vas pas parler de ce que tu aimes.” L’IA génère des textes à partir des données qu’on lui donne, c’est un programme de gestions des données, elle les combine en suivant les modèles inscris dans ses patterns, et les résultats ne sont que le reflet exact de la programmation du programmeur. Il y a un gros abus sur la réalité des IA qui sont toutes supplantées massivement par des opérateurs humain. C’est du marketing pur. A ce jour une IA c’est un programme qui ne fait rien de plus que ce qui a été programmé dans son noyaux. C’est abusif de parler d’autonomie, ni même d’intelligence. C’est un programme, certes complexe,mais ça reste un programme.
C’est ahurissant de constater à quel point ce site est un relai massif de Fake et de publicité déguisée.X_X
Tu n’a rien compris.
D’ailleurs ces programmes fonctionnent comme des réseaux de neurones, on pourrait potentiellement avec la technologie actuelle créer un vrai programme intelligent.
Ils sont comme des intelligences informatiques primitives si je puis dire.
À part ça tu t’énerves pour rien car l’article ne dit pas que les IA (j’aime bien que tu continue de les appeler des IA ;)) sont de vrais intelligences artificielles, il effraie.ces créateurs car des personnes mal intentionnées pourraient l’utiliser à des fins malveillantes, donc la prochaine fois lis l’article avant de commenter.
Bonne journée !
Sérieux pourquoi m’être un tel article si c’est pour chanter la messe c’est un article qui n’est vraiment pas très utile et ou ont essaye de nous prendre pour des abrutie ont nous dit que quelque chose à était créé et qu’il ont créé n’importe quoi a par une grosse connerie quel superbe tissus de mensonges… juste pour faire de la pub et essayer de faire peur au citoyens…
Ont arrive déjà pas à faire circuler un véhicule seul ou voler un drône seul et j’en passe l’intelligence artificielle n’est que obsolète a l’heure actuelle nie plus nie moins donc arrêter sinon ont va finir par sortire les violents et si mêmes un siècle futur ont y arriver ce serait l’armé qui sans servirer en 1er et personnes n’en sera jamais rien jusqu’à qu’il decide de le rende public et de le brider à l’heure gise comme les Windows que l’on utilise chaque jours.
Ce n’est pas le logiciel qui est dangereux mais l’Homme qui l’a programmé qui peut avoir de mauvaises intentions, il’est Là le problème!
Ca pique les yeux ce que tu écris ! Un bon Beschrelle à ouvrir de temps en temps c’est pas mal. Après pour la jugeote on à pas encore de recette miracle !
ça pique les yeux les fautes d’orthographe.
Comment dire Benoît ta réponse et aussi Puérile que inutile tu doit certainement beaucoup t’ennuyer dans ta vie de tous les jours et tu ne doit pas réalisé grand chose de constructif
Ta certainement pas inventer le fille a couper le beurre .
” On a créer un truc de fou mais on vous donnera pas de preuve “
C’est un peu l’idée.. Je m’attendais au moins à avoir un exemple pour juger de la crédibilité …
Du coup ça sonne plus comme si ils avaient foiré leu truc et qu’ils disaient ça pour ne pas se foutre la honte.
Le comble c’est que cet article a été créé par le générateur de texte !
tu peux continuer à écrire? c’est tellement marrant de te lire. il y a des fautes que je ne pourrais meme pas imaginer.
D’après moi l’argument de “l’outil trop dangereux” est bidon et
Elon Musk (Tesla, SpaceX, etc) qui manage OpenAi a atteint la
limite de la philanthropie et de l’open source, il voit dans ce
générateur de texte (GPT-2) un truc juteux à commercialiser…. ?
D’un autre côté il faut également se méfier des effets d’annonce,
jusqu’à présent on a vu des tentatives d’écriture de nouveaux
épisodes de séries télévisées (Friends, Silicon Valey) qui donnent
des résultats catastrophiques… En effet le sens commun échappe à l’IA, créer des phrases cohérentes syntaxiquement et sémantiquement oui, mais tout un texte ???
si je voulais faire autant de fautes, il me faudrait réfléchir pendant des heures !! t’es un génie de l’orthographe et de la conjugaison, bravo !!
Du coup allez-y les complotistes, développez le vôtre, puisqu’on vous dit que c’est possible !