Les juges en chef émettent des directives strictes aux juges face à l'IA générative

MONTRÉAL — Les tribunaux du Québec – la Cour d’appel, la Cour supérieure, la Cour du Québec et les Cours municipales – ont émis une série de directives concernant l’usage de l’intelligence artificielle (IA) générative, réaffirmant que «l’acte de juger demeure une fonction fondamentalement humaine, exercée exclusivement par des juges indépendants, responsables et imputables».

La possibilité qu’un juge ait utilisé l’IA générative pour produire une décision, évoquée par le quotidien La Presse en mars dernier après analyse d’une décision contenant des références à une jurisprudence qui n’existe pas, a en quelque sorte créé l’urgence dans le milieu de la magistrature qui s’est mis à l’œuvre pour préparer ces directives. Celles-ci sont contenues dans un document de 10 pages, complété lundi dernier et rendu public vendredi.

IA: pas de jugement, de conscience ou d'imputabilité

«L’IA générative, aussi sophistiquée soit-elle, ne possède ni jugement ni conscience, et n’est soumise à aucune forme d’imputabilité. Elle ne peut comprendre le contexte humain, social et juridique propre à chaque affaire. Elle ne peut donc, en aucun cas, se substituer au raisonnement judiciaire, à l’appréciation de la preuve ou à la délibération», tranchent les juges en chef des quatre tribunaux.

Les directives soulignent qu’il n’y a, à ce jour, aucun outil d’IA générative institutionnel approuvé, sécurisé. De plus, fait-on valoir, ces outils reposent «sur des algorithmes dont le fonctionnement demeure largement opaque», opacité qui justifie à elle seule une approche prudente.

Juger, une «fonction intrinsèquement humaine»

«L’acte de juger ne saurait être réduit à un exercice technique, écrit-on. Il s’agit d’une fonction intrinsèquement humaine, qui repose sur la délibération, la prise en compte du contexte, le respect de la dignité, l’exigence d’équité et l’exercice d’une responsabilité morale. Aucun algorithme ne peut en reproduire pleinement la nature. Les systèmes d’intelligence artificielle ne sont pas intelligents au sens humain du terme. Ils ne font que simuler, en apparence, certaines formes de raisonnement humain.»

L’objectif des directives est de préserver les valeurs fondamentales de la justice, notamment l'indépendance judiciaire, l'impartialité, l'équité, la protection des droits de la personne et l'accès à la justice. Elles réitèrent le principe de l'imputabilité des juges. Elles visent également à assurer la confidentialité, la sécurité et la protection des données.

Ces lignes directrices, écrit-on, assurent que «l’acte de juger demeure une fonction fondamentalement humaine, exercée exclusivement par des juges indépendants, responsables et imputables». L’IA générative, rappelle-t-on, «ne comprend pas le droit, n’exerce aucun jugement, n’assume aucune responsabilité et ne peut pas expliquer de manière autonome son raisonnement au sens juridique».

Utilisation accessoire de l'IA

Les tribunaux reconnaissent le potentiel de l’IA générative et son utilité dans sa forme actuelle, mais elle ne peut pas «constituer une source d’autorité, de raisonnement juridique, d’appréciation de la preuve ni de décision». Son usage doit être limité à certaines tâches accessoires, descriptives, organisationnelles ou linguistiques.

Ce sont les juges et les juges seuls qui demeurent entièrement responsables du raisonnement juridique, du contenu des décisions rendues, de l’exactitude des faits retenus, des références, des citations et des autorités invoquées et, surtout, des conséquences de toute utilisation d’un outil d’IA générative.

«Aucune erreur ne peut être imputée à l’outil utilisé. Le recours à un outil d’IA générative ne diminue ni l’obligation de vérification du juge ni son entière responsabilité à l’égard du résultat final», avertit-on.

Pour définir de manière encore plus concrète les balises de l’usage de cet outil, les directives précisent qu’il ne peut pas être utilisé pour le raisonnement juridique substantif, l’analyse et la qualification des faits, l’appréciation de la preuve et de la crédibilité, la détermination de l’issue d’un litige ni pour la rédaction de ces étapes.

«Si l’utilisation de l’IA a pour effet ou pour objet de déterminer l’issue juridique; d’évaluer la crédibilité ou d’interpréter des faits contestés; d’interpréter la pertinence des faits; ou de formuler les motifs d’une décision, elle ne doit pas être utilisée», affirment les directives.

Les directives ouvrent un mince espace à son usage, soit pour la correction, la révision, la reformulation ou la traduction purement linguistiques de textes déjà rédigés par le juge, certaines tâches administratives accessoires ou encore le repérage d’informations dans des sources déterminées, par exemple. De plus, tout usage envisagé doit être soumis au contrôle humain et à une vérification indépendante de tout contenu généré.

Risques de bris de confidentialité

Les directives insistent sur la notion fondamentale de confidentialité, soulignant que «les juges ne devraient pas communiquer à un outil d’IA des projets de jugement, des notes relatives à un dossier en cours et toute information protégée par la loi ou par une ordonnance judiciaire».

Aussi longtemps qu’une IA générative institutionnelle autorisée n’existera pas, un juge devra aussi s’assurer «que les paramètres de l’outil utilisé ne permettent pas l’utilisation des données saisies à des fins d’entraînement, d’amélioration ou d’apprentissage du système».

Dans tous les cas de doute, «l’abstention est recommandée», dit-on. «Le juge doit s’assurer, dans toute utilisation permise, qu’il contrôle la nature, la portée et la fiabilité des informations soumises à l’outil.»

Ces directives sont co-signées par la juge en chef du Québec et juge en chef de la Cour d’appel du Québec, Geneviève Cotnam, Marie-Anne Paquette, juge en chef de la Cour supérieure, le juge en chef de la Cour du Québec, Henri Richard, et Nathalie Duchesne, juge municipale en chef.

Pierre Saint-Arnaud, La Presse Canadienne