La dernière version de l’application Google Photos (v6.60) intègre un avertissement spécifique interdisant les modifications de certains types d’images à travers la fonctionnalité de retouche magique. Le code de l’application révèle que celle-ci refusera désormais de traiter des photos d’identité, des reçus et d’autres documents contenant des informations personnellement identifiables, respectant ainsi les termes d’utilisation de l’IA générative de Google.
Nouveaux garde-fous pour la retouche magique
Des utilisateurs de Pixel 8 et Pixel 8 Pro ont rapporté que l’application affichait désormais une boîte de dialogue lorsqu’ils tentaient d’éditer des images non autorisées, en précisant qu’il est impossible de réaliser l’action demandée. « La retouche magique ne peut pas modifier des photos de cartes d’identité, des factures et d’autres documents qui enfreignent les conditions d’utilisation de Google GenAI », indique ainsi le message d’erreur. L’intelligence artificielle de cette fonction ne peut donc plus être utilisée pour falsifier des documents officiels. C’est une préoccupation qui montait et à laquelle Google a donc voulu finalement répondre.
Le risque avec ces nouveaux outils, c’est que des individus malveillants trafiquent des documents officiels en changeant une photo sur une carte d’identité pour obtenir l’accès à un bâtiment ou pour effectuer frauduleusement un achat en ligne. Évidemment, ces bidouilles ne datent pas de l’intelligence artificielle, mais l’IA rend ces falsifications beaucoup plus simples et rapides.
La retouche magique de Google Photos est un outil puissant qui utilise l’intelligence artificielle pour faciliter des modifications complexes d’images, rendant ces techniques plus accessibles au grand public. La fonctionnalité, dévoilée lors de la conférence Google I/O 2023, a été conçue pour simplifier l’édition d’images avancée. Mais cette facilité d’utilisation a suscité des interrogations concernant la capacité de Google à empêcher l’abus de cette technologie.
Bien que certaines modifications, à l’image des falsifications de factures, aient réussi à passer à travers les mailles du filet dans les versions antérieures, Google semble maintenant déterminé à renforcer en continu les mesures de sécurité. La société a déjà bloqué un certain nombre de ces éditions en affichant des messages d’erreur génériques, et s’efforce de préciser ces messages pour rendre les restrictions plus claires pour les utilisateurs.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
