L'intelligence artificielle doit être encadrée rapidement pour en limiter les risques

MONTRÉAL — Il est urgent pour les gouvernements d’agir afin d’encadrer le développement de l’intelligence artificielle (IA) car la vitesse à laquelle elle se déploie présentement représente un risque pour la démocratie, pour de nombreux emplois et pourrait aggraver les inégalités.

C’est le cri d’alarme lancé lundi dans un ouvrage conjoint par Mila, l’Institut québécois d’intelligence artificielle et l’UNESCO intitulé «Angles morts de la gouvernance de l’intelligence artificielle».

L'un des 18 auteurs du livre, Yoshua Bengio, fondateur et directeur scientifique de Mila, souligne par exemple que le fameux outil ChatGPT de la firme Open AI «devrait être un signal d'alerte pour la population, pour les gouvernements. Oui, des choses très positives peuvent sortir de tout ça, mais la puissance de l'IA a atteint un niveau où on a besoin de porter notre attention là-dessus pour éviter des choses négatives, pour minimiser les effets négatifs.»

Risque pour la démocratie et les emplois

Il place au premier chef de ses inquiétudes «le risque de l'utilisation de ces outils d'une manière qui serait dangereuse pour la démocratie. On a entendu parler, par exemple, des "deep fakes", des images, des vidéos, des sons qui sont synthétisés par ordinateur avec ces mêmes technologies-là et qui peuvent être utilisés pour manipuler les gens, parce que les gens sont manipulables», rappelle-t-il en faisant référence à la désinformation de plus en plus présente sur les réseaux sociaux. «C'est quelque chose qui peut vraiment mettre en danger le fondement de notre société.»

Du côté socio-économique, il affirme qu’il faut s’attendre à un impact significatif sur le marché du travail, l’IA étant une voie rapide vers l’automatisation. «Est-ce qu’on a le filet social qu'il faut pour faire face à ces transformations rapides, par exemple? Pour mettre en place les protections dont on a besoin, ça va prendre du temps, ça va prendre des années et on voit la vitesse à laquelle la technologie se développe. Il faut aussi s'y atteler assez rapidement.» 

Une nécessaire inclusion

Une autre inquiétude réside dans le fait que les outils d’IA sont principalement développés dans les pays occidentaux, souligne Benjamin Prud’homme, directeur exécutif de l'IA pour l'humanité chez Mila. «Il faut qu'on s'assure de développer l'IA de façon inclusive. Il faut qu'on s'assure que toutes les populations sont représentées. Donc il faut que ce soit vrai des hommes blancs, mais il faut aussi que ce soit vrai des femmes, des peuples autochtones, des personnes racisées. C'est quand même un risque sérieux.»

En effet, comme l’explique Yoshua Bengio, l’architecture de ces systèmes et leurs algorithmes se construisent sur des masses de données tirées d’innombrables textes et images et, de ce fait, «vont ainsi perpétuer les biais, les discriminations qu'ils trouvent dans notre culture».

Aussi, ajoute Benjamin Prud’homme, l’IA «a le potentiel d'aggraver des inégalités Nord-Sud, des inégalités à l'intérieur des États entre différentes populations. Il faut prendre ces risques-là au sérieux et réglementer».

Investir dans la sociologie de l'IA

Car une chose est certaine, ce ne sont pas les entreprises elles-mêmes qui viendront s’autoréglementer. Ces entreprises ont un historique de développer les technologies à la vitesse grand V sans trop se préoccuper des conséquences. Selon le professeur Bengio, cela a tendance à changer avec des employés de plus en plus conscients des impacts de leurs outils, mais cela ne suffit pas. «Il faut qu'on investisse, pas seulement dans l'informatique de l'IA, mais dans la sociologie de l'IA, dans comment on doit repenser nos règles au niveau gouvernement, comment on doit repenser la société.» 

L’IA, dit-il, a le potentiel de générer des profits considérables, et ce, pour un nombre très restreint de joueurs, avec les risques que cela comporte. «C'est surtout le pouvoir, la concentration de pouvoir, la concentration de richesse. Il faut que l'IA soit au service de tous. Ça veut dire que la richesse qui est créée, il faut qu'elle soit redistribuée, il faut qu'on se donne les moyens de la redistribuer.»

Une gouvernance locale et internationale

Conférencière invitée lors du lancement et co-autrice de l'ouvrage, la professeure Kate Crawford de l’Université Southern California Annenberg et chercheuse principale à Microsoft Research, a fait valoir que l’effort d’encadrement de l’IA doit non seulement être domestique, mais doit aussi transcender les États et se faire à l’échelle internationale, comme ce fut le cas lors de la création de l’Agence internationale de l’énergie atomique. 

«Je ne pense pas qu'on a les outils de gouvernance internationale avec suffisamment de dents aujourd'hui, mais il faut s'y atteler», renchérit Yoshua Bengio, qui reconnaît que, dans le domaine nucléaire, il a fallu une douzaine d’années avait d’y arriver, ce qui serait impensable dans ce cas-ci.

Il associe l’effort d’encadrement requis pour l’IA à celui de la lutte contre les changements climatiques, deux domaines où il faut absolument presser le pas car l’urgence est déjà là.

«Il a fallu des années pour le nucléaire, mais il faut s'y mettre.

«Tant qu'il y a de la vie, il y a de l'espoir, mais c'est super important et c'est le même problème avec le climat, si on baisse les bras en disant qu’on ne peut rien faire, c'est la pire chose.»

Pour Benjamin Prud’homme, le Canada a un rôle crucial à jouer dans ce domaine. Le projet de loi C-27 sur l’intelligence artificielle et les données, en cours d’adoption, peut servir de déclencheur. «Un, ça prend du leadership à l'international; deux, ça prend du leadership de certains États importants et je pense que le Canada a un projet de loi assez ambitieux en la matière. Honnêtement, au rythme du processus parlementaire, je pense que le Canada va peut-être être le premier pays à réglementer.»

Pierre Saint-Arnaud, La Presse Canadienne