Qu’il s’agisse de Donald Trump en pleine arrestation musclée, du président Emmanuel Macron au milieu d’un Paris embrasé par les manifestations, ou encore du Pape François emmitouflé dans une imposante doudoune blanche, les images générées par l’intelligence artificielle n’épargnent personne, et surtout pas les grandes figures politiques mondiales.
Pourtant, la plateforme de création d’images MidJourney, connue pour ses impressionnants résultats en matière de photoréalisme peut aussi choisir qui elle épargne. En tapant “Xi Jinping” ou “le président chinois“, aucune image ne sort du générateur. Il s’agit en réalité d’un choix délibéré de la part de la société américaine. Dans un message explicatif publié sur son Discord rapporté par le Washington Post, le PDG David Holz explique avoir préféré “éviter les drames“, dans un pays où “la satire politique est plutôt mal vue“.
MidJourney n’est “pas une démocratie”
Créée il y a tout juste un an, MidJourney s’est rapidement fait un nom sur le marché de l’IA, avec des images photoréalistes plus vraies que nature, mettant notamment en scène des personnalités connues du grand public. Les créations de l’outil impressionnent autant qu’elles inquiètent, au point que cette semaine, plus de 1300 experts, dont Elon Musk et Steve Wozniak ont appelé à stopper les recherches liées à l’IA. Reste que si d’évidentes questions éthiques et légales se posent autour de ces bots intelligents, ils restent pour le moment légaux.
Comment expliquer alors que MidJourney ait le pouvoir d’exclure une personnalité de son algorithme pour une simple affaire d’ego ? La réponse est simple : aucune règle claire n’existe concernant la génération d’images artificielles. En l’absence de lois définies, c’est donc à MidJourney de trancher comme bon lui semble. L’entreprise l’indique d’ailleurs très ouvertement dans ses conditions générales d’utilisation : “nous ne sommes pas une démocratie. Comportez-vous avec respect ou vous perdrez vos droits d’utilisation du service“.
Et il est de notoriété publique que le président chinois Xi Jinping n’apprécie que très peu la caricature. L’homme politique avait notamment fait interdire toute représentation du personnage de Winnie l’ourson, après que des internautes aient souligné les ressemblances physiques existantes entre lui et la célèbre peluche jaune.
Chacun ses règles ?
Cette règle édictée par MidJourney est en réalité parfaitement arbitraire. En autorisant la représentation de Vladimir Poutine, Emmanuel Macron ou n’importe quelle autre personnalité politique, la plateforme s’expose fatalement à des polémiques. D’autant plus que chaque entreprise y va de son propre cahier des charges. Chez Dall-E par exemple, il est interdit de représenter des dirigeants ou dirigeantes politiques, ou des situations référant à des évènements géopolitiques majeurs. Chez Stable Diffusion en revanche, la modération est beaucoup plus souple, pour ne pas dire absente. L’entreprise est la seule à autoriser des images érotiques ou sexuellement explicites, et ne semble prévoir aucune interdiction en matière de politique.
Chez MidJourney, la position est mitigée. D’un côté l’entreprise n’interdit pas la représentation des politiques (à l’exception donc de Xi Jinping), de l’autre, elle proscrit les images sanglantes et les messages irrespectueux, sans vraiment détailler de quoi il en retourne. De son côté, David Holz a avoué ne pas pouvoir se positionner clairement sur le sujet, tout en indiquant que ses équipes travaillaient actuellement à détecter et interdire les “comportements répréhensibles“.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
” […] au point que cette semaine, plus de 1300 experts, dont Elon Musk et Steve Wozniak ont appelé à stopper les recherches liées à l’IA. ” Sur 1300 experts, dommage de citer Musk et Woz