Les systèmes basés sur l’intelligence artificielle font déjà des merveilles dans de très nombreux domaines, des gestes de routine à la recherche fondamentale. Mais il y a encore des aspects de notre société, comme la santé ou la justice, que nous ne sommes pas encore prêts à laisser entièrement à la machine… du moins, dans certaines parties du monde. La Chine, elle, n’en fait pas partie; le pays a récemment développé une IA capable de “remplacer un procureur dans le processus de décision, dans une certaine mesure”, d’après ses concepteurs.
Selon ces derniers, la machine serait en ce moment testée par le Protectorat du Peuple de Shanghai Pudong, le plus grand service judiciaire du pays. D’après les premiers résultats, ce “procureur” virtuel serait capable d’être précis à 97% à partir d’une simple “description verbale” de l’affaire. Nous ne savons pas exactement à quoi ces 97% font référence, mais il semble qu’il s’agisse d’une comparaison entre les documents législatifs produits par ce système et ceux produits par des humains.
D’après le South China Morning Post, la Chine dispose déjà de technologies de ce genre; certaines institutions emploient par exemple un programme baptisé System 206. Le système est capable de déterminer lui-même la “solidité des preuves”, les “conditions nécessaires à une arrestation”, et “la dangerosité du suspect pour le public”. Mais il ne s’agit que d’un outil qui doit servir à assister les humains dans la prise de décision.
Désengorger l’appareil judiciaire
En revanche, ce nouveau système qui peut fonctionner sur n’importe quel ordinateur standard va plus loin. Il a été entraîné à partir d’un ensemble de 17.000 affaires qui ont eu lieu entre 2015 et 2020. Cela lui a permis d’extraire environ 1000 paramètres dont la plupart seraient bien trop abstraits pour être perceptibles par un vrai humain.
En revanche, ils sont parfaitement interprétables par ce programme. Une fois la solidité du dossier validée par le System 206, ce nouveau programme utilise ces paramètres afin de rédiger les documents en rapport avec l’inculpation. En l’état, il est capable de le faire pour les infractions les plus courantes dans la région de Shanghai. La liste comprend notamment la fraude à la carte de crédit, la conduite dangereuse, le vol, ou les troubles à l’ordre public. D’après les concepteurs, cela permettrait ainsi aux spécialistes humains de consacrer plus de temps aux questions plus compliquées.
L’IA appliquée à la justice, une question sensible
Mais évidemment, cela soulève aussi une pléthore de questions éthiques, à commencer par le chiffre de 97% de précision. C’est un chiffre certes impressionnant, et rien ne permet d’affirmer avec certitude que les humains font forcément mieux; mais cette marge d’erreur, même faible, semble difficilement défendable dans un processus où la moindre imprécision peut être lourde de conséquences pour les intéressés.
De plus, le SCMP précise que ce programme se base sur les données consignées par les humains qui ont enregistré les éléments du dossier. Ce système ne permet donc pas d’exclure totalement la composante humaine. Cela signifie aussi qu’il est incapable d’improviser pour trouver la meilleure réponse à un cas encore inconnu. Or, on sait par expérience qu’une IA a tendance à proposer des résultats complètement aberrants lorsqu’elle sort de son périmètre de prédilection. Il existe aussi le risque que ces technologies soient détournées par des acteurs peu scrupuleux pour légitimer des décisions de justice arbitraires. C’est d’autant plus inquiétant que ce système est présenté par le SCMP comme un “procureur”, dont le rôle est théoriquement de défendre les intérêts de la société au nom de l’État.
Il conviendra donc de suivre avec une grande attention l’évolution de cette technologie fascinante, mais aussi et surtout l’évolution de la législation correspondante qui déterminera son utilisation, car des systèmes analogues vont vraisemblablement se trouver une place dans de nombreuses instances législatives dans les décennies à venir.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
