Les internautes pourront bientôt tester Sora, le tout nouveau générateur vidéo dopé à l’IA des créateurs de ChatGPT. C’est en tout cas ce qui ressort de la dernière interview de Mira Murati, CTO d’OpenAI, au Wall Street Journal ; elle affirme que cet outil sera mis à disposition du grand public « cette année », et possiblement d’ici « quelques mois ».
Pour rappel, Sora est un outil capable de générer des vidéos photoréalistes grâce à une simple requête, un peu comme le chatbot phare de l’entreprise le fait déjà avec du texte. Les premiers exemples présentés en février dernier étaient très impressionnants en termes de fidélité visuelle. Rien à avoir avec les quelques systèmes balbutiants qui nous ont été proposés ces dernières années; au lieu d’une soupe de pixels incohérente qui fleure bon la vallée de l’étrange, Sora peut recracher des séquences d’images extrêmement cohérentes, avec une gestion de la lumière assez époustouflante pour un outil de ce genre.
Prompt: “A stylish woman walks down a Tokyo street filled with warm glowing neon and animated city signage. she wears a black leather jacket, a long red dress, and black boots, and carries a black purse. she wears sunglasses and red lipstick. she walks confidently and casually.… pic.twitter.com/cjIdgYFaWq
— OpenAI (@OpenAI) February 15, 2024
Et OpenAI ne compte pas s’arrêter là. D’après Murati, l’entreprise prévoit également d’y ajouter deux autres composants. Le premier est un système qui permettra d’éditer des portions de la vidéo produite pour s’approcher autant que possible de la vision de l’utilisateur. Le deuxième est un système de génération audio. Si le résultat est comparable en termes de qualité, nous pourrions donc nous retrouver avec le premier outil au monde capable de générer de véritables petits films de grande qualité. Une perspective très excitante d’un point de vue strictement technique — mais aussi assez préoccupante dès que l’on prend un peu de recul.
Un nouvel outil pour les créateurs de deepfakes
En effet, les spécialistes clament haut et fort depuis des années déjà que la montée en puissance de ces technologies menace de faire déferler un énorme tsunami de désinformation sur le monde numérique. Il est incontestable que les deepfakes sont en train de devenir un problème de premier plan, surtout dans le contexte actuel où des centaines de millions de personnes s’apprêtent à élire leurs représentants politiques.
Il existe déjà des exemples qui permettent de percevoir l’ampleur de cette menace. Par exemple, à la fin du mois de janvier, un deepfake de Joe Biden a semé la zizanie dans les élections primaires du New Hampshire, un état stratégiquement important dans la course à l’élection présidentielle. Dans ce contexte, certains observateurs américains s’interrogent donc sur la pertinence du calendrier avancé par OpenAI. Est-ce vraiment responsable de sortir un outil aussi performant, surtout à quelques mois d’un scrutin déterminant pour l’avenir du pays ?
Murati, de son côté, estime que son entreprise a pris suffisamment de précautions. La représentante explique notamment que Sora devrait être soumis aux mêmes restrictions que le générateur d’images DALL-E ; le cas échéant, on ne pourra donc pas lui demander de générer une image d’une personnalité publique. De plus, elle a aussi déclaré que les vidéos produites seraient systématiquement affublées d’un watermark pour indiquer explicitement qu’il s’agit de contenu généré, et non pas d’une vidéo authentique. Ces mesures vont sans doute limiter la casse… mais elles demeurent malgré tout insuffisantes pour couper court à toutes les tentatives de désinformation délibérées.
Un problème de cohérence
Au-delà de ces promesses, on peut aussi déceler une pointe d’hypocrisie dans le discours d’OpenAI. En effet, l’entreprise a récemment signé le Tech Accord to Combat Deceptive Use of AI in 2024 Elections. Pour rappel, il s’agit d’un texte porté par une coalition de 20 géants de la tech qui se sont engagés à prendre des mesures pour empêcher les outils IA de peser sur l’intégrité du processus démocratique. Certains internautes considèrent donc que le fait de sortir Sora en plein milieu de cette période délicate est incohérent avec les engagements de l’entreprise.
Il conviendra de suivre attentivement le déploiement de Sora pour voir si ces craintes finiront par se concrétiser. Car si cet outil se retrouve au cœur d’un vaste scandale de désinformation, il faudra sans doute bien plus qu’une simple déclaration de bonne volonté pour convaincre le public de la plus-value de ces systèmes d’IA générative.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
