Sur la photo : Présentation des règles éthiques adoptées par Predictice à l’occasion d’un colloque organisé au sein de la Chambre criminelle de la Cour de cassation
Déjudiciarisation, homogénéisation, transparence : trinité gagnante pour le service public à l’ère de l’open data ?
Comme l’explique le rapport du Centre de recherche et d’études des avocats, publié en octobre 2017, les hommes seuls, tout comme les machines seules (construites pour remplacer les humains), ne seront jamais aussi puissants que les hommes et les machines ensemble. Voilà ce qu’il faut retenir de ce défi. En effet, une fois obtenu un aperçu statistique des avenirs judiciaires possibles, il revient évidemment au professionnel la tâche la plus dure, celle de l’interprétation et de la prise de décision.
Néanmoins, il est vrai que le service public de la justice vit une importante évolution. Il est en effet probable que l’utilisation systématique des outils de justice prédictive aura, à terme, un effet d’homogénéisation des décisions de justice.
Face à la publication de l’intégralité des décisions de justice, les plus de 8 000 magistrats actifs en France (d’après l’Union Syndicale des Magistrats, communiqué du 3 juin 2016) devront mieux motiver leurs décisions, pour qu’elles soient compréhensibles par le justiciable, mais également pour expliquer les divergences entre leurs décisions et les décisions habituelles dans les contentieux similaires.
Évidemment, ces évolutions s’accompagnent de questionnements et de crispations légitimes. Les Cours d’appel de Douai et de Rennes ont ainsi, dès avril 2017, pris part à une expérience d’utilisation d’outils de justice prédictive qui s’est conclue par des avis mitigés, puisque certains, réticents, ont estimé que les outils qui leur étaient proposés ne leur apportaient pas de valeur ajoutée.
Pour autant, ces outils continuent à être déployés à travers le territoire français, et ce avec le soutien de nombreuses figures respectées, à la fois dans le secteur privé et dans le secteur public. Predictice a ainsi gagné le prix DILA en décembre 2017.
« D’aucuns y verront la menace d’une pression de l’esprit, d’une contrainte mentale, s’exerçant in petto en faveur de choix conformistes (juger comme le plus grand nombre), bridant sa créativité jurisprudentielle ou freinant ou entravant les mécanismes naturels de l’évolution du droit. N’est-ce pas mésestimer la capacité du juge à conduire son office dans une indépendance qu’il apprend à maîtriser et à assumer dès ses premiers pas professionnels ? Comment croire sérieusement que la liberté, l’indépendance, du juge sortiraient fortifiées de la relative ignorance dans laquelle il serait tenu de ce que jugent ses homologues dans des cas analogues, comme pour mieux se protéger des tentations de les imiter ? » - M. Bruno Pireyre, à l’occasion de la Conférence du Réseau francophone des Conseils de la magistrature judiciaire, 7–8 novembre 2017, L’accessibilité aux jugements des tribunaux en ligne : le point et des interrogations.
Ces propos nous rappellent que la magistrature est composée d’une population hétérogène, dont une partie craint toujours les contraintes que l’open data et les outils de justice prédictive risquent de leur imposer, mais qu’une autre, plus progressiste, espère et encourage.
Les magistrats n’ont nulle raison de se sentir menacés. Intègres et intelligents, ils resteront en mesure de prendre toute décision qu’ils jugeront nécessaire, quand bien même celle-ci divergerait des décisions typiques. Il suffira de la motiver de façon claire, chose qui devrait quoi qu’il en soit être un réflexe et une exigence.
Avoir une idée claire et quantifiée du résultat probable d’une action contentieuse est un levier de réussite des modes alternatifs de règlement des litiges.
Une partie A réclame 100 000 euros à une partie B et entame une action contentieuse à cette fin.
Dans certaines situations, la justice prédictive remplit ainsi une fonction symbolique d’épouvantail. La médiation, qui permet de préserver des relations commerciales, familiales ou personnelles, s’en trouve facilitée. C’est ce qu’ont compris et constaté les assureurs de protection juridique, dont plusieurs utilisent les outils de justice prédictive avec pour objectif de pouvoir recourir efficacement à la résolution de conflits à l’amiable.
Le déploiement rapide des technologies de justice prédictive entraînera progressivement un mouvement de désengorgement des juridictions par la déjudiciarisation des litiges les moins sujets à variation (Au 31 décembre 2015, le stock d’affaires des Cous d’appel, Tribunaux de Grande Instance t des Conseils de prud’hommes - à l’exception des référés - s’élevait à 1.239.000). Par un effet de vase communicant, la médiation, la conciliation, la transaction et les autres types de règlements amiables de conflits vont se multiplier, développant un nouveau système économique de résolution des litiges rapide, peu onéreux, et parfois même dématérialisé, en proposant par exemple un service d’arbitrage en ligne.
Ces effets bénéfiques, pour les professionnels comme pour les justiciables, ne doivent cependant pas empêcher l’émergence d’une critique constructive de la justice prédictive.
Préoccupation majeure des professionnels du droit et plus particulièrement des magistrats, les enjeux éthiques liés aux nouveaux outils de justice analytique ont grandement agité le monde du droit.
En effet, en parallèle au déploiement des outils de justice prédictive, de nombreux groupes de réflexion, conférences, et séminaires se sont développés pour permettre aux acteurs intéressés de prendre part aux discussions sur le potentiel rôle de la justice prédictive au sein de la justice traditionnelle. Parmi les nombreux exemples, le colloque annuel de l’association Droit & Affaires de l’université Paris II Panthéon-Assas qui s’est déroulé en mars 2018 au Sénat et dont le thème était « Intelligence artificielle & Droit » ou encore le colloque « La justice prédictive - risques et avenir d’une justice virtuelle », organisé conjointement par la Faculté de Droit de Le Mans Université — Antenne de Laval, le Barreau de Laval avec le soutien de la Cour d’appel d’Angers en avril 2018.
Il ressort de ces débats qu’un nombre encourageant de magistrats, actifs ou retraités, montrent un grand intérêt pour ces avancées technologiques dont ils ont pour certains longtemps rêvé voir qu’elle porterait secours à un pouvoir judiciaire noyé sous le travail.
Interrogée à propos de la possibilité que les tribunaux français soient dans un futur proche tous équipés d’outils d’intelligence artificielle, Joëlle Lemoine, magistrate retraitée ayant fait, entre autres, carrière à la chambre sociale de la Cour de cassation, répond : « Je l’espère. Et je pense qu’il faut compter sur la jeune génération pour faire avancer les choses. Les choses allaient moins vite pour notre génération, il n’y avait pas l’informatique, il n’y avait pas tout ça. Les frustrations, nous, on ne les a pas faites bouger, on n’a pas pris beaucoup de recul avec le système, on l’a vu progressivement s’engorger ».
La technologie de justice prédictive, en tant que formidable outil d’analyse et de synthèse, permettra d’améliorer la qualité et l’efficacité du service publique dans tous les domaines concernés par les barèmes. Elle permettra d’éviter l’uniformisation que peut induire un système de barème (système qui tente une forme d’anticipation, mais en lissant les cas particuliers au préjudice de la variété du réel et de l’expérience des juges) en y substituant un système basé sur l’intelligence collective des magistrats. La catégorisation par barème n’étant jamais assez fine, elle se fait, en réalité, au détriment du justiciable.
A l’inverse, un calcul statistique, fondé sur une pondération fine de différents critères, s’appuyant sur l’ensemble des précédents, permet une meilleure prise en compte de l’individu, idée absolument fondamentale dans la justice française. C’est « le principe d’individualisation des peines qui découle de l’article 8 de la Déclaration des droits de l’homme et du citoyen de 1789 » (Décision n° 2005–520 du 22 juillet 2005 du Conseil constitutionnel).
La justice prédictive réussit donc à répondre à la triple exigence de prévisibilité pour les justiciables, de transparence et de confiance dans le système judiciaire, et de la prise en compte des particularités de chaque cas. Elle permet d’éviter une barémisation brutale pour s’orienter vers un système modérateur, qui homogénéise progressivement la justice en fonction de la manière dont elle est rendue partout sur le territoire.
« En permettant aux magistrats de confronter leurs analyses, ils inscriront leurs décisions dans une collégialité élargie. » - Bertrand Louvel, premier président de la Cour de cassation.
La justice deviendra ainsi plus éthique, s’inspirant de la règle de plomb des architectes de Lesbos (Aristote, La nature de l’équité) qui s’adapte à ce qu’elle mesure. La technologie prédictive transformera peut-être enfin la justice en une balance de cristal.
La question de la régulation des algorithmes ne peut pas se passer d’une réflexion et d’un choix éthique sur la position à adopter vis-à-vis de la justice prédictive ainsi que sur celle que doit prendre cette justice prédictive dans la justice française.
L’ethnographe Tricia Wang le rappelle : l’opposition manichéenne du monde des hommes et de celui des machines n’a pas de sens. En effet, les progrès des algorithmes sont le résultat d’interactions croissantes entre les deux univers, d’abord au moment de la construction, puis de « l’entrainement », et enfin du perfectionnement.
Car les algorithmes peuvent se tromper. Ils peuvent être injustes. Ils peuvent pérenniser un état de fait non désiré. Il arrive également que les algorithmes répercutent les choix de leurs créateurs, néo-scribes dont les productions ont de plus en plus de conséquences sur le monde non-virtuel — monde dont la limite se dissout d’ailleurs devant nos yeux.
L’enjeu éthique doit donc être sérieusement adressé. La réflexion que mène le Comité éthique et scientifique de la justice prédictive, hébergé par le cabinet Taylor Wessing (qui a d’ailleurs obtenu un accès aux travaux de Predictice) devenait urgente avec le début de l’utilisation de cette solution par des institutions judiciaires sus-mentionnées. Il s’est réuni pour sa première réunion le 26 avril 2017.
« La critique de Tim Hope permet de rendre compte de l’ignorance qui évolue avec le développement des connaissances sur la prédiction des victimisations et des innovations qui leur sont associées » - Bilel Benbouzid, « De la prévention situationnelle au predictive policing », Champ pénal Vol. XII, 2015.
Dans l’attente du résultat des premières études qui devraient aider à sortir des postures de principe sur les enjeux éthiques, il importe de garder en tête que cette technologie constitue avant tout une aide à la décision, qu’elle a ses équivalents dans d’autres domaines, et que ses évolutions sont suivies de près par des professionnels attentifs.
Il importe donc de trouver un équilibre entre un effort de régulation nécessaire et le fait de ne pas freiner une innovation aux multiples bénéfices par une entreprise de régulation mal calibrée.
Car la régulation, bien qu’elle soit « synonyme d’équilibre entre les pouvoirs et de reconstruction des rapports de force » est pour l’instant réduite, s’agissant de la justice prédictive, au prisme de la régulation concernant la mise à disposition des données publiques fournies par l’Etat ; ici unique producteur des données nécessaires.
Le principe de l’accès aux décisions de justice n’est pas contesté dans son essence. La loi pour une République numérique - plus particulièrement ses articles 3, 20 et 21 - a en effet posé le principe de la mise à disposition, à titre gratuit et dans un format réutilisable (sous réserve du respect de la vie privée des personnes concernées dans les décisions) de l’ensemble des décisions de justice, fournissant la matière première nécessaire au fonctionnement des algorithmes. (Pour un développement plus complet, se reporter au Guide de la Justice prédictive, p. 45.)
Par contre, la question des modalités de la mise à disposition n’est pas réglée, en particulier sur le point sensible du degré d’anonymisation des décisions.
L’objectif principal de l’anonymisation est d’empêcher la ré-identification des personnes physiques concernées par les décisions de justice et ainsi préserver leur vie privée. Ce souci se heurte rapidement à un défi technique. D’un côté, si l’on enlève systématiquement tous les éléments caractéristiques (ancienneté d’un salarié, lieu de travail, montant du salaire, motif du licenciement, participation aux instances représentatives, etc.), ce qui est parfois nécessaire pour garantir l’anonymat, la lecture de la décision ou son analyse perdra en grande partie son intérêt. De l’autre, si on laisse ne serait-ce que quelques éléments, avec l’évolution des techniques d’identification dynamique qui croisent de multiples bases de données, alors l’anonymisation sera illusoire.
La voie la plus simple pour assurer l’application de la loi est pourtant évidente : conserver un système de pseudo-anonymisation (en remplaçant les noms propres par X ou Y) et appliquer le système répréhensif prévu par l’article 226–19 du code pénal. Si cela est insuffisant, il sera toujours possible de créer un délit de ré-identification, ou d’alerter la Commission Nationale de l’Informatique et des Libertés (CNIL), première autorité administrative indépendante, afin qu’elle se saisisse de la question, voir qu’elle l’intègre dans son programme de contrôle prioritaire.
L’enjeu de la mise à disposition des données est plus élevé qu’il peut paraître. Les tentatives pour croiser le droit et les mathématiques sont nombreuses, notamment aux Etats-Unis et en Chine. Affirmer l’indépendance technologique de la France, favoriser son leadership et donc son influence dans le monde est un combat économique crucial à moyen et long terme. Or, sans données, les possibilités de développement et d’entrainement des algorithmes sont terriblement limitées.
« C’est le fait qui fait le droit » affirmait Antoine Loysel. La justice prédictive pourrait bien lui donner raison.