4 décembre 2018

La Charte éthique européenne de la CEPEJ sur l'utilisation de l'intelligence artificielle (IA) dans les systèmes judiciaires et leur environnement

Note de présentation

La « Charte éthique européenne sur l'utilisation de l'intelligence artificielle dans les systèmes judiciaires et leur environnement » est le premier instrument européen à énoncer cinq principes substantiels et méthodologiques qui s’appliquent au traitement automatisé des décisions juridictionnelles et des données judiciaires, fondé sur des techniques d’IA. Elaborée par la Commission européenne pour l’efficacité de la justice (CEPEJ) du Conseil de l’Europe, elle s’adresse aux entreprises privées (les start-up actives sur le marché des nouvelles technologies appliquées aux services juridiques - legaltechs) , aux acteurs publics en charge de la conception et du déploiement d’outils et de services d’IA dans ce domaine, aux décideurs publics en charge de l’encadrement législatif ou réglementaire, du développement, de l’audit ou de l’utilisation de tels outils et services, ainsi qu’aux professionnels de la justice.

La CEPEJ relève d’emblée que l’utilisation des outils et services d’IA dans les systèmes judiciaires a vocation à améliorer l’efficacité et la qualité de la justice et mérite d’être encouragée. Elle doit toutefois se faire de manière responsable, dans le respect des droits fondamentaux des individus énoncés par la Convention européenne des droits de l’homme (CEDH) et la Convention n° 108 du Conseil de l’Europe pour la protection des données à caractère personnel, ainsi que des autres principes fondamentaux énoncés dans la Charte.

Parmi ces principes, le respect des droits de l'homme et de la non-discrimination revêt une importance fondamentale. L'objectif est de s'assurer, dès la conception et jusqu’à l'application pratique, que les solutions garantissent le respect des droits garantis par la CEDH et la Convention n° 108 du Conseil de l'Europe. Le principe de non-discrimination est expressément énoncé en raison de la capacité de certains traitements - notamment en matière pénale - de révéler des discriminations existantes en regroupant ou en classifiant des données concernant des personnes ou des groupes de personnes. Les acteurs publics et privés doivent donc veiller à ce que ces applications ne reproduisent ni n'aggravent cette discrimination et ne conduisent pas à des analyses ou pratiques déterministes.

Certains défis qualitatifs relatifs à la méthodologie d'analyse et au traitement automatisé des décisions judiciaires sont également pris en compte. Un principe de qualité et de sécurité est clairement énoncé : il devrait être possible de traiter les données par apprentissage automatique sur la base d'originaux certifiés et l'intégrité de ces données devrait être garantie à toutes les étapes du traitement. La création d'équipes multidisciplinaires, composées de magistrats, de chercheurs en sciences sociales et en informatique est fortement recommandée, tant au stade de la rédaction et du pilotage que de l'application des solutions proposées.

Le principe de transparence des méthodologies et des techniques utilisées dans le traitement des décisions judiciaires revêt également une grande importance. L'accent est mis ici sur l'accessibilité et la compréhension des techniques de traitement des données, ainsi que sur la possibilité pour des autorités ou des experts indépendants d’effectuer des audits externes.  Un système de certification, à renouveler régulièrement, est également encouragé.

Par ailleurs, on souligne la nécessité de rendre l’usager un acteur éclairé et maître de ses choix. Le juge, en particulier, devrait pouvoir revenir à tout moment aux décisions et données judiciaires qui ont été utilisées pour produire un résultat et continuer à avoir la possibilité de s'en écarter compte tenu des spécificités de l'affaire en question. Chaque utilisateur devrait être informé, dans un langage clair et compréhensible, du caractère contraignant ou non des solutions proposées par les instruments d'IA, des différentes options possibles et de son droit à un conseil juridique et à un recours devant un tribunal.

La CEPEJ souhaite que ces principes deviennent un point de référence concret pour les professionnels de la justice, les institutions et les acteurs de la vie politique qui sont confrontés au défi d'intégrer les nouvelles technologies basées sur l'IA dans les politiques publiques ou dans leur travail quotidien. De plus, sur le plan pratique, ces principes constituent une base de comparaison importante pour évaluer les caractéristiques des différentes applications de l'IA, dont l’intégration dans le système judiciaire ou au niveau des tribunaux se poursuit actuellement de manière exponentielle.

La CEPEJ est à la disposition des Etats membres, des institutions judiciaires et des représentants des professions juridiques pour les accompagner dans la mise en œuvre des principes de la Charte.