SynthID est un système de filigrane numérique intégré directement dans les métadonnées des images, vidéos, textes et sons générés par l’IA. Déjà utilisé sur les créations 100 % artificielles issues du modèle d’image Imagen de Google, il débarque désormais sur les photos retouchées via la fonction « Reimagine » du Magic Editor. Ce dernier, disponible sur les Pixel 9, permet de modifier une image simplement en décrivant l’ajout souhaité.
Un marquage invisible mais détectable
Problème : cette liberté créative a parfois mené à des dérives. Certains utilisateurs ont pu générer des scènes douteuses (accidents simulés, objets illicites, présence de cadavres…) sans aucun marquage distinctif. Pour éviter ce genre de dérive, Google avait déjà commencé à étiqueter les fichiers modifiés par l’IA en octobre dernier. Avec SynthID, cette identification devient plus robuste, bien qu’imperceptible à l’œil nu. Seul l’outil « À propos de cette image » de Google permet de repérer le filigrane.
Si l’ajout d’un filigrane invisible représente une avancée dans la lutte contre la désinformation, il comporte certaines limites. Tout d’abord, SynthID ne peut pas marquer les retouches trop mineures, comme un simple changement de couleur sur un petit élément de l’image. Ensuite, comme tout système de filigrane, il n’empêche pas les manipulations intentionnelles visant à le retirer ou à le contourner.
Google n’est d’ailleurs pas le seul à explorer cette piste. Adobe applique déjà des « Content Credentials » aux images créées ou modifiées avec ses outils IA. L’objectif de l’industrie est de standardiser ces marquages pour mieux identifier les contenus générés artificiellement sur le web.
Au-delà des images, Google étend également SynthID à d’autres formats comme les vidéos, les textes et même la musique générée par son modèle Lyria. Pour le texte, le système ajuste subtilement les probabilités des mots générés par l’IA afin d’y intégrer une signature discrète, tandis que pour l’audio, le filigrane est inséré directement dans les ondes sonores de manière inaudible.
Cette technologie est en constante évolution et elle pourrait bien s’imposer comme une référence en matière de traçabilité des contenus créés par intelligence artificielle. En attendant, il reste conseillé de garder un œil critique sur les images trop belles (ou trop inquiétantes) pour être vraies.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
