Les jeunes, âgés de 13 et 14 ans, ont utilisé une application d’IA pour générer des images explicites de plusieurs étudiants du même âge. Il s’agit de délits au troisième degré, selon une loi de Floride de 2022.
Les États-Unis face aux deepfakes
Ces arrestations illustrent un cas spécifique où les autorités ont choisi d’agir en vertu d’une loi récemment adoptée ; les législateurs ont décidé de s’attaquer aux abus rendus possibles par les avancées de l’IA. Cependant, l’absence d’une législation fédérale unifiée laisse un paysage juridique fragmenté, où la réponse à de tels abus peut varier considérablement d’un État à l’autre.
De nombreux États américains ont effectivement adopté des lois contre le « revenge porn », mais seuls quelques-uns ont spécifiquement abordé la question des images sexuellement explicites créées par IA. Cet incident a donc suscité le débat aux États-Unis sur la manière dont les lois actuelles peuvent être appliquées aux images générées par IA, et sur la nécessité de législations adaptées.
Joe Biden a signé l’automne dernier un décret sur l’intelligence artificielle demandant aux différentes agences du gouvernement fédéral un rapport sur l’interdiction de l’utilisation de l’IA générative pour produire du contenu pédopornographique. Mais le Congrès n’a pas encore adopté de loi sur les deepfakes, ce qui pourrait changer dans les prochains mois sachant que les deux principaux partis s’entendent sur le sujet.
Ce cas en Floride pourrait provoquer une réflexion plus approfondie sur l’adaptation des cadres juridiques existants aux défis posés par l’IA, notamment en ce qui concerne la protection des mineurs.
Au-delà des implications juridiques, ce sont surtout les conséquences pour les victimes qui émeuvent. Les familles des enfants victimes ont exprimé un profond traumatisme, un sentiment de violation et l’impact sur le bien-être psychologique des jeunes impliqués est évidemment très sérieux. Cet incident reflète également un problème croissant dans les districts scolaires à travers le pays, où la facilité d’accès aux outils d’IA et leur potentiel d’abus posent de sérieux conflits éthiques et sociaux.
Les débats sur la meilleure manière de répondre à ces incidents sont loin d’être résolus. Certains experts, comme Mary Anne Franks de l’Université George Washington, questionnent l’approche consistant à imposer des peines plus lourdes pour des images fausses que pour des images réelles. Elle plaide pour une réponse judiciaire qui dissuade sans nécessairement recourir à l’incarcération, en particulier pour les mineurs.
Cette histoire en Floride fait en tout cas progresser le débat sur la manière dont la société et le système juridique répondent aux menaces posées par l’utilisation détournée des technologies d’IA.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
