De la génération d’images ou de texte à la robotique, en passant par l’automobile, l’énergie et des tas d’autres domaines, l’intelligence artificielle continue de coloniser les activités et les produits humains à une vitesse impressionnante. Mais les avancées les plus concrètes et les plus marquantes ne sont peut-être même pas encore arrivées. Et très bientôt, une affaire pas comme les autres va nous donner quelques bribes d’informations assez intéressantes sur le futur de cette technologie : pour la toute première fois au monde, un système basé sur l’IA va se charger de défendre un prévenu lors d’une audience au tribunal.
Le système en question a été conçu par DoNotPay (DNP), une entreprise américaine. À l’origine, ses créateurs ont souhaité imaginer une façon d’aider gratuitement les consommateurs à faire valoir leurs droits en les aidant à réaliser des démarches traditionnellement fastidieuses, chronophages et obscures pour les non-initiés.
Prenons l’exemple de la loi en elle-même. C’est un outil formidable pour défendre les citoyens. Mais c’est aussi un labyrinthe complexe où il est presque impossible de naviguer à vue. Ce n’est pas un hasard si les professionnels du droit doivent passer par une formation longue et exigeante pour en maîtriser les subtilités.
Ce constat vaut aussi pour la montagne de textes réglementaires qui encadrent tous les services du quotidien. Lorsqu’un citoyen non initié estime avoir été lésé par une institution, une banque ou un fournisseur de service, il est souvent très difficile de trouver un recours.
Sur le principe, il s’agit de cas de figure particulièrement bien adaptés au machine learning. En effet, les intelligences artificielles construites sur ce modèle sont exceptionnellement douées lorsqu’il s’agit d’extraire ou de synthétiser des informations utiles à partir d’un énorme ensemble de données bien trop complexe pour le commun des mortels.
Du chatbot au véritable assistant légal
C’est de ce constat qu’est né le produit de DNP. À l’origine, ce système a été publié en 2015 sous la forme d’un chatbot assez rudimentaire. Son objectif : proposer quelques pistes pour aider les internautes à la recherche des conseils légaux. Mais tout a changé en 2020, lorsqu’OpenAI a ouvert l’accès à GPT-3.
Il s’agit d’une plateforme basée sur l’IA qui permet de réaliser des tas d’opérations à base de texte, comme tenir une conversation ou générer des articles entiers. L’industrie tout entière s’est rapidement emparée de cette technologie révolutionnaire. Cela a conduit au développement de nouveaux outils très intéressants. On peut par exemple citer le célèbre ChatGPT qui fascine Internet en ce moment (voir notre article). DoNotPay a donc pris le train en marche, et les développeurs ont dopé leur système à GPT-3.
Pour fonctionner, les systèmes de ce genre doivent être entraînés au préalable. Les systèmes relativement généralistes comme ChatGPT et consorts ont par exemple appris à écrire en ratissant le Web en long, en large et en travers.
La particularité du système de DoNotPay, c’est son régime alimentaire. Il était exclusivement constitué de textes de loi, de procédures administratives, et autres documents utiles pour défendre les intérêts d’une personne.
Une fois le système ainsi renseigné, il ne reste plus qu’à lui adresser un problème légal ou réglementaire précis. L’IA va alors passer en revue tout ce matériel pour trouver des paragraphes et alinéas qui pourraient servir de recours. Elle traduit ensuite tout cela en texte qui peut être utilisé tel quel lors d’une négociation.
Un bot capable de se faire rembourser
Après la première vague d’entraînement, Joshua Browder, le fondateur de DoNotPay, a voulu mettre le système à l’épreuve. Il a saisi son téléphone pour appeler sa propre banque. Cette dernière lui devait la somme de 16 dollars suite à une erreur de facturation.
La personne au bout du fil a été mise directement en relation avec l’IA. Pour ce faire, DoNotPay a utilisé un système dit « text-to-speech ». Cela permet de transcrire le texte en voix pas très naturelle, mais au moins intelligible. Et cette expérience improvisée a produit des résultats assez spectaculaires. Dans une interview à New Scientist, Browder explique que l’IA a réussi à négocier toute seule, comme une grande, le remboursement intégral des 16 $ en isolant précisément les points du règlement nécessaires à son argumentaire !
La somme est assez modeste, certes. Mais cela n’enlève rien à l’exploit technique. « C’est une des choses les plus incroyables que j’ai jamais faites », souffle l’intéressé. « Ce n’est que 16 dollars, mais c’est le travail parfait pour l’IA. »
Sur la base de ce succès, DoNotPay a donc décidé d’aller plus loin. Désormais, cette intelligence artificielle ne se contentera plus de fouiller les textes de loi. Ses créateurs ambitionnent d’en faire un véritable avocat, capable de défendre un prévenu lors d’un vrai procès au tribunal.
Le premier “avocat IA” à s’inviter dans un tribunal
C’est un cas particulièrement intéressant. Car si les systèmes basés sur des IA font déjà des merveilles lorsqu’il s’agit de technique pure (reconnaissance, conduite autonome…) ou de divertissement (génération d’images…), jusqu’à présent, cette technologie n’a encore jamais été utilisée de façon aussi tangible et concrète dans un domaine comme la justice. Jusqu’à présent, il s’agissait d’une prérogative exclusivement réservée à l’humanité.
Pour préserver le secret de l’instruction, la localisation du tribunal n’a pas été divulguée. L’identité de l’accusé n’est pas non plus connue ; on sait simplement qu’il sera jugé pour excès de vitesse. Il s’agit donc d’un cas relativement banal au premier abord.
Ce qui est plus inhabituel, c’est que lors de l’audience, il aura accès à un smartphone ou à un ordinateur relié à une oreillette. Des objets qui sont strictement interdits dans un tribunal en temps normal. Pour réaliser cette expérience pas comme les autres, DoNotPay a spécifiquement ciblé une région avec un vide juridique qui permet d’autoriser la présence de ce matériel en tant qu’« aide auditive ».
Une fois sur place, l’intelligence artificielle pourra indiquer à l’accusé quel argument utiliser pour assurer sa propre défense en temps réel. Évidemment, cela pose une montagne de questions éthiques qui feront probablement pousser des cris d’orfraie aux spécialistes du droit.
Heureusement, DNP indique avoir pris quelques précautions. Le PDG a indiqué à NewScientist que l’algorithme avait été entraîné pour s’en tenir exclusivement aux faits et à ce qu’il peut trouver dans les textes de loi. Pas question de traîner quelqu’un d’autre dans la boue ou d’essayer de prendre les humains par les sentiments pour gagner à tout prix.
« Ce n’est pas bon si l’IA essaye de déformer les faits et de manipuler les gens », explique Browder. Et il ne s’agit pas que d’une posture. L’entreprise risque très gros en cas de défaillance à ce niveau ; elle a donc tout intérêt à assurer ses arrières pour « minimiser la responsabilité légale », dixit Browder. L’entreprise a par ailleurs indiqué qu’elle prendrait tous les frais du dossier (y compris l’amende si l’accusé est jugé coupable) à sa charge.
Un concept encore loin d’être généralisable
Précisons toutefois qu’il ne faut pas encore crier à la révolution. Même si l’expérience se solde par un franc succès, ce n’est pas demain la veille que Monsieur et Madame Tout-le-Monde pourront se présenter au tribunal avec un smartphone en guise d’avocat.
Pour commencer, il faudrait déjà qu’une technologie de ce genre fasse l’unanimité chez les spécialistes. Ce qui semble plus qu’improbable en l’état. Et même en cas de consensus, il s’agira d’un chantier pharaonique. Intégrer une technologie de ce genre au système judiciaire actuel impliquerait d’en reconstruire complètement les fondations. Cela représente en effet une différence philosophique fondamentale.
De plus, une IA de ce genre ne conviendrait pas dans tous les cas de figure. On pense notamment aux grands procès susceptibles d’établir des précédents historiques. Cet outil sait uniquement piocher dans les documents existants. Il n’est absolument pas conçu pour prendre des décisions. Encore moins lorsqu’elles sont susceptible de conditionner le verdict de procès futurs.
Et cela ne concerne que la partie institutionnelle. Naturellement, il faudra aussi étudier la fiabilité du système. Et c’est quelque chose qu’il sera très difficile de vérifier avant d’avoir davantage de données et de recul.
Bien évidemment, il y a encore des tas d’autres problématiques éthiques, techniques et réglementaires à prendre en compte. La conclusion, c’est donc que pour le moment, cet outil n’a aucune chance de remplacer un avocat charismatique et expérimenté.
La justice reste avant tout une affaire d’humains ; et ces derniers resteront indispensables dans le processus jusqu’à nouvel ordre, surtout dans les cas les plus complexes et importants. Browder cite par exemple les « excellents avocats » de la Cour européenne des Droits de l’Homme.
La première étape d’un changement de paradigme ?
Mais DoNotPay espère quand même que son système pourra remplacer certains avocats humains. En particulier ceux qui appartiennent à une catégorie bien précise qu’on pourrait presque qualifier de « techniciens ». « De nombreux avocats facturent beaucoup trop d’argent juste pour copier/coller des documents. Je pense qu’ils devraient être remplacés », estime-t-il.
Plus que le verdict en lui-même, il conviendra donc de suivre les retombées de cette affaire. Ill ne faut pas s’attendre à une explosion imminente de l’IA dans le secteur de la Justice; mais les projets de ce genre commencent tout de même à dessiner les contours d’une grande transformation.
En extrapolant, on peut déjà imaginer des tas d’évolutions énormes du système actuel. Par exemple, une fois matures, des systèmes de ce genre pourraient aussi aider les juges ou les membres d’un jury à prendre des décisions à la fois impartiales et éclairées. Voire même les remplacer entièrement pour sortir complètement la sensibilité humaine du processus de décision, pour le meilleur et pour le pire.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
C’est une très bonne chose car il n’y rien de pire qu’un juge/avocat humain…totalement bogué par défaut, un humain n’est jamais logique à 100%, de toute façon ils connaissent déjà pas tous les textes de loi sans parler de logique faillible, c’est juste impossible pour un humain. Deplus, Il n’y a qu’à faire appel pour avoir un jugement différent .. cela prouve bien qu’il n’y a aucune logique dans le système actuel. Les machines appliqueront la loi sans état d’âme et de façon impartial. Le problème réside par contre dans les textes de lois qui se contre disent … il faudra donc penser à remplacer nos députés ;).
On ne pourra pas remplacer les députés, mais les aider aussi à ne pas pondre des lois contradictoires
L’homme et ce besoin de se rendre inutile…