Des chercheurs développent un outil pour aider les tribunaux à repérer l'IA

TORONTO — Alors que l'intelligence artificielle (IA) facilite la manipulation, voire la fabrication, de vidéos, de photos et d'autres types de preuves, une équipe de chercheurs canadiens s'efforce d'aider les tribunaux à distinguer le vrai du faux.

Cette équipe, composée de technologues et de juristes d'universités de l'Ontario et de la Colombie-Britannique, prévoit de consacrer les deux prochaines années à la création d'un outil libre, gratuit et facile d'utilisation. Cet outil permettra aux tribunaux, aux personnes naviguant dans le système judiciaire et à d'autres acteurs de détecter les contenus générés par l'IA.

Selon Maura Grossman, codirectrice du projet, les tribunaux sont mal préparés à l'essor des contenus générés par l'IA. Les outils commerciaux actuels sont opaques et peu fiables, produisant souvent de faux positifs et présentant des préjugés envers les personnes dont l'anglais n'est pas la langue maternelle.

Par ailleurs, l'équipe souligne que le recours à des experts pour authentifier les preuves est coûteux et peut ralentir les procédures judiciaires.

Devant les tribunaux, les enjeux sont particulièrement importants, a indiqué Mme Grossman, professeure d'informatique à l'Université de Waterloo et également enseignante à la faculté de droit Osgoode Hall de l'Université York.

«Si je dois vous condamner en raison de la véracité ou de l'authenticité d'un élément, je dois avoir une grande confiance dans l'exactitude, la validité et la fiabilité de l'outil», a-t-elle affirmé, lors d'une entrevue cette semaine.

«Il ne peut s'agir d'une décision tranchée. L'outil doit m'indiquer le degré de confiance qu'il a dans sa décision et être suffisamment transparent pour m'expliquer les raisons de cette décision.»

Ce projet est l'une des deux initiatives de recherche inaugurales financées par le programme de l'Institut canadien de recherches avancées, nommé Institut canadien de la sécurité de l'intelligence artificielle, lancé par le gouvernement fédéral l'an dernier dans le cadre de sa stratégie plus vaste en matière de sécurité de l'IA. Chaque projet recevra 700 000 $ sur deux ans.

Bien que l'équipe de recherche soit basée au Canada, son conseil consultatif, qui comprend des juges et des organisations soutenant les justiciables qui se représentent eux-mêmes, est réparti à travers l'Amérique du Nord. L'objectif est de créer un outil utilisable sur tout le continent, a précisé Mme Grossman.

L'un des principaux défis sera de suivre le rythme de l'évolution rapide et constante de l'IA générative, a expliqué Yuntian Deng, professeur adjoint à l'Université de Waterloo et professeur invité chez le géant technologique NVIDIA, dont le rôle dans le projet sera axé sur les aspects techniques.

«Ce n'est pas (le genre de projet) que l'on réalise une fois pour toutes et qu'on oublie ensuite», a expliqué M. Deng.

«Compte tenu de la rapidité avec laquelle la technologie de génération d'IA évolue, je pense que le développement de techniques pour la contrer sera également un processus continu. C'est un peu comme viser une cible mouvante: plus l'IA est performante pour générer de faux textes, images et vidéos, plus nous devons investir dans leur détection.»

Bien que l'équipe puisse développer un «produit minimum viable» en deux ans, cet outil ne constituera pas une solution permanente, a déclaré Mme Grossman, ajoutant qu'elle avait déjà envisagé la nécessité de rechercher d'autres sources de financement une fois la subvention terminée.

Les personnes qui présentent des vidéos générées par l'IA devant les tribunaux aux affaires familiales n'utilisent pas de technologies sophistiquées; elles utilisent leur téléphone et n'importe quel logiciel gratuit qu'elles peuvent trouver en ligne, a-t-elle rapporté.

«Notre idée était donc que, même si nous ne créons pas l'outil parfait, si nous en créons un capable de détecter ce genre de chose, cela donnera un avantage considérable aux tribunaux pour une grande partie des situations auxquelles ils sont confrontés», a-t-elle affirmé.

«Il ne permettra peut-être pas de lutter contre les actes criminels les plus sophistiqués, mais il sera utile dans la plupart des affaires familiales ou criminelles.»

Paola Loriggio, La Presse Canadienne