L’IA générative de Midjourney ne veut pas de problème avec les politiques. Depuis quelques jours, il est impossible de soumettre à Midjourney les prompts contenant “Joe Biden” et “Donald Trump“. Le projet était visiblement prévu de longue date par David Holz, le PDG de Midjourney, mais s’est finalement concrétisé plus tôt que prévu, afin de limiter la désinformation en période électorale.
235 jours avant les élections
Avant le scrutin final des élections présidentielles américaines, qui se tiendront le 5 novembre prochain, Midjourney a préféré ne pas tenter le diable, en empêchant la création de fausses images du président Joe Biden et de l’ancien président Donald Trump. Une opération “plutôt difficile” reconnaissait le PDG de l’entreprise à l’occasion d’une conférence de presse tenue cette semaine. Pour le moment, la mesure est temporaire, mais elle permet déjà de limiter les abus liés aux deux hommes politiques. Ainsi, un prompt contenant les mentions de Joe Biden et Donald Trump recevra un avertissement “prompt interdit“. En cas de récidive, un second avertissement vous informera que “vous avez déclenché une alerte d’abus“. À noter que seul Joe Biden semble réellement concerné par cette restriction. Il est toujours possible de générer des images mettant en scène Donald Trump avec d’autres figures politiques bien connues.
Sans réellement s’attarder sur le discours politique, il est de bon ton que Midjourney interdise la génération d’images liées à des hommes et des femmes politiques, surtout en période d’élection. La dernière mise à jour de l’outil, déployée en décembre 2023, permet des rendus photoréalistes assez impressionnants, et la prolifération des deepfakes a déjà prouvé que les célébrités risquaient gros à voir leur image reprise par des intelligences artificielles. L’affaire Taylor Swift a résonné jusque dans les rangs de la Maison-Blanche il y a quelques mois. Quelques années plus tôt, une vidéo deepfake du président ukrainien Volodymyr Zelensky appelait son peuple à rendre les armes face à l’envahisseur russe.
Midjourney inquiète
Il faut dire que Midjourney n’a pas toujours été bon élève sur la question de la désinformation. À l’heure où les fake news sont devenues de sérieuses menaces pour les démocraties qui luttent jusque dans leurs plus hautes instances contre le phénomène, le programme d’intelligence artificielle générative a plutôt tendance à ajouter de l’huile sur le feu. Dans un récent rapport du Center for Countering Digital Hate repéré par nos confrères de BFMTV, on découvre que l’outil ne parvient à bloquer des prompts favorisant la désinformation que dans 35% des cas. C’est moins bien que la moyenne des logiciels testés par l’organisation à but non lucratif, qui observe un taux de réussite de 59%.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
